OpenAI остановила операции влияния, использующие ИИ – из России, Китая, Ирана, Израиля
Компания OpenAI опубликовала в своем блоге сообщение "Пресечение обманного использования ИИ в скрытых операциях влияния", в котором перечисляются пять операций, использующих методы OpenAI.
OpenAI утверждает, что созданные ей модели, в том числе возможности ChatGPT, использовались для создания контента, который имеет целью повлиять на общественное мнение с помощью фейковых аккаунтов, сообщений, комментариев и ботов. OpenAI сообщила о пресечении операций России, Ирана, Китая и частной израильской компании STOIC.
OpenAI заявила, что считает недопустимым использование ее моделей для проведения операций влияния и перечислила операции, которые она пресекла.
Bad Grammar. Операция из России. В основном она действовала через Telegram и была нацелена на Украину, Молдову, страны Балтии и США. Люди, стоящие за Bad Grammar, использовали модели, разработанные OpenAI, для отладки кода и запуска бота в Telegram, для создания коротких политических комментариев на русском и английском языках.
Doppelganger. Операция из России. Люди, действующие от имени Doppelganger, использовали модели ОpenAI для создания комментариев на английском, французском, немецком, итальянском и польском языках, которые были опубликованы на X и 9GAG, создания заголовков и конвертирования новостных статей в публикации на Facebook.
Spamouflage. Операция из Китая. Сеть, которая использовала модели OpenAI для исследования общественной активности в социальных сетях, генерировала тексты на разных языках, включая китайский, английский, японский и корейский, которые затем размещались на таких платформах, как X, Medium и Blogspot.
IUVM. Операция из Ирана. Международный союз виртуальных медиа (IUVM) использовал модели OpenAI для создания и перевода лонгридов, заголовков и тегов и их размещения на подконтрольных IUVM сайтах.
Zero Zeno. OpenAI объявила о пресечении деятельности коммерческой компании STOIC из Израиля. В сообщении OpenAI отмечается: "мы пресекли вид деятельности, а не компанию". Как утверждает OpenAI, люди, стоящие за Zero Zeno, использовали модели OpenAI для создания статей и комментариев, которые публиковались на нескольких платформах, в частности, в Instagram, Facebook, X и на веб-сайтах, связанных с Zero Zeno.
В отчете OpenAI о Zero Zeno говорится: "Эта операция была нацелена на аудиторию в Канаде, США и Израиле с контентом на английском и иврите. В начале мая она стала нацеливаться на аудиторию в Индии с помощью англоязычного контента. Судя по всему, она также готовилась к проведению операции влияния, нацеленной на аудиторию в Гане".
"Калькалист" пишет о компании STOIC: "Это уже второй случай за неделю, когда эта компания фигурирует в отчете международного технологического гиганта. В отчете, опубликованном Meta, компания заявила, что удалила сеть из сотен аккаунтов в Facebook и Instagram, которые действовали из Израиля и запустили кампанию влияния, направленную на пользователей в США и Канаде".