Лора КрессТехнологический репортер
Блумберг через Getty ImagesМинистр технологий Лиз Кендалл призвала компанию X Илона Маска срочно разобраться с ее чат-ботом с искусственным интеллектом Grok, который используется для создания без согласия сексуализированных изображений женщин и девочек.
BBC видела множество примеров на X, когда люди просили бота раздевать людей в цифровом формате, чтобы они появлялись в бикини без их согласия, а также подвергали их сексуальным действиям.
Кендалл заявила, что ситуация «абсолютно ужасающая», добавив, что «мы не можем и не допустим распространения этих унизительных изображений».
В заявлении X говорится: «Мы принимаем меры против незаконного контента на X, включая материалы о сексуальном насилии над детьми (CSAM), удаляя его, навсегда приостанавливая учетные записи и работая при необходимости с местными органами власти и правоохранительными органами.
«Любой, кто использует Grok или побуждает его создавать незаконный контент, понесет те же последствия, что и если бы он загружал незаконный контент», — говорится в заявлении.
В понедельник регулятор Ofcom заявил, что установил «срочный контакт» с компанией Илона Маска xAI и заявил, что расследует опасения, что Грок создает «раздетые изображения» людей.
Кендалл поддержал действия регулятора.
«Совершенно верно, что Ofcom рассматривает этот вопрос в срочном порядке, и он имеет мою полную поддержку в принятии любых принудительных мер, которые он сочтет необходимыми», — сказала она.
«Дегуманизирующие» изображения
Grok — это бесплатный AI-помощник с некоторыми платными премиум-функциями, который реагирует на запросы пользователей X, когда они отмечают его в сообщении.
Его часто используют, чтобы дать реакцию или дополнительный контекст на замечания других авторов.
Но люди на X также могут использовать его для редактирования загруженного изображения с помощью функции редактирования изображений AI без согласия изображенного человека.
Женщины, которые наткнулись на сексуализированные изображения себя, сделанные Гроком, назвали это бесчеловечным.
Доктор Дейзи Диксон — одна из многих женщин-пользователей X, которые недавно начали видеть, как люди ежедневно фотографируют себя, которые она разместила на платформе, и просят Грока раздеть ее или сексуализировать.
Она рассказала Би-би-си, что фотографии вызвали у нее чувство «шокирования», «унижения» и страха за свою безопасность.
Она добавила, что, хотя она поддержала призыв министра технологий к действию и нашла его «обнадеживающим», она все еще чувствовала разочарование из-за отсутствия ответственности X.
доктор Дейзи Диксон«Я и многие другие женщины на X продолжаем сообщать о неприемлемых изображениях/видео ИИ, которые нам присылают ежедневно, но X продолжает отвечать, что нарушений правил X не было», — сказала она.
«Я просто надеюсь, что слова Кендалла скоро претворятся в жизнь – я больше не хочу открывать свое приложение X, так как боюсь того, что могу увидеть».
В своем заявлении Кендалл сказала: «Службы и операторы имеют четкое обязательство действовать соответствующим образом. Речь идет не об ограничении свободы слова, а о соблюдении закона».
«Мы сделали злоупотребление интимными изображениями и киберфлешинг приоритетными правонарушениями в соответствии с Законом о безопасности в Интернете, в том числе в тех случаях, когда изображения созданы искусственным интеллектом. Это означает, что платформы должны предотвращать появление такого контента в Интернете и действовать быстро, чтобы удалить его, если это произойдет».
Лидер либерал-демократов сэр Эд Дэйви призвал правительство «действовать очень быстро», чтобы остановить создание Гроком сексуализированных изображений, предположив, что одним из вариантов действий было бы «ограничить доступ» к X.
«Если сообщения подтвердятся, Национальному агентству по борьбе с преступностью придется начать уголовное расследование», – сказал сэр Эд.
«Такие люди, как Илон Маск, должны быть привлечены к ответственности».
В интервью BBC Newshour Томас Ренье, представитель Европейской комиссии по вопросам технологического суверенитета, заявил, что они относятся к этому вопросу «очень серьезно».
«Мы не хотим этого в Европейском Союзе… это ужасно, это отвратительно.
«Дикий Запад в Европе закончился», – сказал он.
«Все компании обязаны навести порядок в своем доме – и это начинается с ответственности и удаления незаконного контента, создаваемого вашим инструментом искусственного интеллекта».