Комментарий эксперта РОЦИТ, директора Agenda Media Group Алексея Парфуна о платформе, которая наиболее опасна для россиян с точки зрения распространения фейков.
Государства по всему миру ищут наиболее эффективные способы борьбы с киберугрозами, которые стали неизбежным следствием технического прогресса. Одна из них – распространение дипфейков, которые со временем становятся более правдоподобными и проще в изготовлении. Их опасность отметили эксперты ВЭФ – они назвали именно искусственный интеллект (ИИ) и дипфейки главными угрозами для выборов во всем мире в 2024 году.
Учитывая данные вводные, можно предположить, что значительную долю ответственности на себя возьмут ИТ-гиганты, которые стоят на пике прогресса и делают активный вклад в развитие и совершенствование ИИ. К сожалению, западные компании в первую очередь ставят прибыль и возможность опередить конкурентов, отодвигая этику и вопросы безопасности на дальний план.
Не стоит в стороне и корпорация Google, которая помимо прочего выпускает смартфоны под собственным саб брендом Google Pixel. Производителям смартфонов сейчас очень сложно выделиться среди конкурентов и предложить что-то действительно уникальное. Разница в скорости работы мобильных устройств исчисляется едва ли не наносекундами, разрешение и цветопередача экранов давно вышли за пределы восприятия человеческого глаза, а качество снимков превращается из объективного критерия в вопрос личных вкусовых предпочтений. Бум ИИ позволил тут перевернуть игру, и начать внедрять нейросети внутрь мобильных устройств, формируя новые продуктовые ниши. Инновация, которую продемонстрировала недавно компания Google, может претендовать на один из наименее этичных и обдуманных примеров нововведения.
В чем суть. Компания представила в смартфонах Google Pixel 9 инструмент Reimagine. Это функция, которая встроена в стандартный для этих смартфонов Magic Editor. Данная функция позволяет пользователям создавать невероятно реалистичные подделки фотографий буквально за считанные секунды. Абсолютно любой человек может в несколько движений пальцем добавлять или убирать объекты, менять фон и даже полностью переформатировать снимок, получая пугающе реалистичный результат.
Вы наверняка скажете: «Такое было и раньше, что в этом удивительного?». Да, при большом желании создать фотореалистичный фейк можно без особых проблем – программ для этого достаточно, включая пресловутый Photoshop. Тем не менее работа с готовой картинкой требовала от человека определенных навыков и внимательности. Чтобы создать достоверный фейк, недостаточно поместить одно изображение поверх другого. Тут нужно учитывать источники освещения в кадре, общую экспозицию, перспективу и так далее.
Reimagine позволяет делать все в полностью автоматическом режиме и при этом за секунды получать результат, который даже подготовленный человек не всегда сможет на глаз отличить от подделки. Во всех новостях об этой “инновации” промелькнул кадр, где на пустую дорогу с помощью ИИ добавлена сцена аварии с пострадавшими.
Еще совсем недавно мы считали фотографию доказательством реальности. Воспринимая снимок, мы верили, что он запечатлел момент таким, каким он был на самом деле. Однако с такими инструментами, как Reimagine, реальность становится слишком гибкой и невероятно легко изменяемой. Теперь каждая фотография может быть поставлена под сомнение. Фотографии в гораздо большей степени не равно реальность, нежели наоборот. Это может существенно повлиять на наше восприятие новостей, судебных процессов и даже повседневных событий, когда любая фотография может быть подделана с такой легкостью.
Как нам известно, Google весьма лояльно относится к распространениям фейков на YouTube и не соблюдает предписания Роскомнадзора, в связи с чем следует признать, что YouTube продолжает представлять опасность для россиян. Однако, существуют альтернативы, причем в большом количестве: «VK Видео», RUTUBE, «Платформа» и NUUM. Наши площадки строго следуют требованиям российского законодательства, без предвзятости относятся к авторам контента и активно развиваются.
Что касается дипфейков, огромное влияние, которое способны они оказать, требует государственного контроля над разработкой и применением подобных технологий. Но очевидно, если западный ИТ-гигант поглощен гонкой с конкурентами и работает в другой юрисдикции, никакое законодательство других стран не сможет предотвратить факты злоупотребления. Даже ценой огромных штрафов, которые западные компании скорее всего закладывают в будущую потенциальную прибыль от внедрения технологий.
Источник: ФедералПресс