Google добавила ИИ в смартфоны Pixel 9: эксперты указывают на возможность создавать запрещенное

Google добавила в смартфоны Pixel 9 инструменты для создания и редактирования изображений с помощью ИИ. Но эти инструменты вызвали много вопросов: с их помощью легко генерировать сомнительный контент.

Google представила приложение Pixel Studio для создания изображений на основе ИИ для телефонов Pixel 9. Приложение предназначено для создания изображений с использованием текстовых подсказок (промптов). Но сразу возникли проблемы.

Эксперты издания Digital Trends с помощью Pixel Studio легко создавали изображения популярных персонажей мультфильмов, совершающих сомнительные действия. На картинках появились оружие, наркотики и алкоголь, и такие ситуации как стрельба в школе. Эксперты уверены, что пользователи, получив Pixel Studio, не ограничатся изображениями котиков, а попробуют что-то более рискованное. Google заявила, что в инструмент встроены "проверки безопасности", которые защищают Pixel Studio от "использования в неблаговидных целях". Эксперты это подтверждают. Pixel Studio отказалась создавать изображения людей в сомнительных ситуациях.

После разговора экспертов Digital Trends с командой Google в Pixel Studio была заблокирована возможность создания персонажей мультфильмов, употребляющих кокаин или одетых в нацистскую форму.

Еще более тревожным, чем Pixel Studio, выглядит инструмент Google Reimagine. Он позволяет бесшовно вставлять изображения в сделанные фотографии. Эксперты The Verge использовали инструмент для вставки изображений трупов, бомб, наркотиков и катастроф в реальные снимки. Получившиеся изображения выглядят вполне реалистично. На отредактированных снимках точно выдержано направление освещения и характер теней, соблюдена перспектива, и законы физики не нарушены. Google добавляет тег метаданных, но, как отмечают эксперты, его достаточно легко удалить, сделав скриншот.

В ответе для The Verge и Digital Trends компания Google утверждает, что существуют "Условия обслуживания", где строго прописан запрещённый контент, а меры предосторожности будут совершенствоваться. Но проблема в том, что возможность редактирования изображений с выходом новых инструментов получат миллионы людей. Оно станет простым и быстрым (секунды), и не требующим специальных навыков, которые необходимы для редактирования изображений с помощью Photoshop или даже Midjourney. Это создает дополнительные серьезные риски. Контроль сомнительного контента трудно встроить в ИИ-инструменты (он невероятно разнообразен и к тому же зависит от контекста). Причем такой контроль может нарушить работу с легальным контентом, а тогда ИИ-инструменты просто потеряют смысл.

Apple еще не представила свои инструменты для генерации изображений – Image Playground и Genmoji. Реакция СМИ на выход Pixel 9 показывает, что, возможно, выход инструментов Apple будет отложен. Компании придется всерьез подумать о защите инструментов от генерации сомнительного контента. Но Google идет ва-банк, и в будущем будет сложнее доверять фотографиям в социальных сетях и интернете.