Google открыл ящик Пандоры. Революционный инструмент создает фейковую реальность в один клик
Заменить бело-красные-белые флаги на красно-зеленые у протестующих в Беларуси, убрать недовольных китайскими властями студентов с площади Тяньаньмэнь, добавить взрыв, мертвые тела или уничтоженную военную технику на улицы Нью-Йорка — теперь Google разрешил делать подобное мгновенно, автоматически и правдоподобно. Все благодаря новому искусственному интеллекту Reimagine, который вызвал серьезные опасения у экспертов по безопасности.
Для фоторедактора Magic Editor от Google, который по умолчанию стоит в приложении Google Photo, был выпущен новый искусственный интеллект под названием Reimagine (Переосмысли), который в один клик позволяет менять контекст и смысл любых фотографий (ИИ пока доступен только для новейших моделей смартфонов Google Pixel).
Новый инструмент, который уже был назван революционным, открывает огромные возможности для спекуляций, обмана и пропагандистского искажения реальности, «к чему мир еще не готов», предупреждает крупное издание The Verge со ссылкой на экспертов по безопасности.
Революционность нового ИИ объясняется в первую очередь не его возможностями редактирования фото, а именно тем, что раньше для создания подделок было необходимо хоть немного разбираться в инструментах и принципах работы фотошопа и подобных программ. Несмотря на относительно недавнее появление в таких программах встроенных нейросетей, которые существенно ускоряли процесс изменения фотографий, часть работы все равно выполнялась пользователями вручную. До этого момента.
Теперь Reimagine только по одному текстовому запросу за секунды делает весь комплекс работы, на который обычно требуется определенное время и хотя бы минимальные умения пользоваться фотошопом.
Так, на примере всемирно известной фотографии протестов на Китайской площади Тяньаньмэнь «Нашай Ніве» удалось за секунду натуральным образом убрать протестующего, вышедшего навстречу танкам. Программа автоматически убрала даже мелкую деталь в виде отбрасываемой человеком тени на белой разметке дороги.
Смысл фотографии от этого существенно меняется и становится непонятно, что на ней происходит (возможно, обычный военный парад).
Второй пример — культовое фото «Диджеев перемен», сделанное в разгар президентских выборов в Беларуси в августе 2020-го. В один клик искусственный интеллект от Google сумел полностью убрать и их, но все же оставил несколько мелких артефактов, если присмотреться.
Другими возможностями Reimagine поделилось и издание The Verge. По одному текстовому запросу журналисты смогли «переосмыслить» несколько обычных снимков, куда были добавлены тревожные детали.
Например, на одну из станций метро можно быстро и правдоподобно добавить бомбу, поместить на прилавок магазина живую змею, сбросить военный вертолет в водоем или устроить ДТП со смертельным исходом там, где его никогда не было. Цена вопроса — несколько секунд.
The Verge отмечает, что новый инструмент Google иногда сам предоставляет пользователю подсказки, как сделать фотографии более провокационными или опасными. Из-за быстрой массовой доступности Reimagine мир может столкнуться с беспрецедентно большим количеством фейковых новостей, которые будут подкрепляться более детализированными и правдоподобными фотоподделками, которые сможет сделать любой человек в считанные секунды.
Сама компания Google в ответ на всю критику и предостережения независимых экспертов признала, «что иногда ее искусственный интеллект способствует злоупотреблениям и переходит границы дозволенного», но при этом подчеркнула, что продолжит бороться с этим ради безопасности пользователей.
Знатоки искусственного интеллекта прогнозируют, что вскоре подделки станет невозможно обнаружить
У Илона Маска вдруг объявился «сын из Кении». Просит денег на «воссоединение с отцом»
Японская компания показала первый в мире искусственный интеллект для научных открытий. Он сразу попытался переписать свой код
Погиб 27-летний инспектор могилевской ГАИ — летел на мотоцикле, но водитель на бусе не пропустил его8
Комментарии