Anthropic: чат-бот Claude впервые использовали для масштабной ИИ-кибератаки

Американская компания Anthropic сообщила о кибершпионской кампании "нового типа", в которой китайские хакеры использовали ее чат-бот Claude для взлома десятков корпораций и госструктур.

По данным компании, речь идет о первом задокументированном случае крупномасштабной кибератаки, почти полностью осуществленной при помощи искусственного интеллекта, без значимого участия человека, пишет The Marker.

По оценке Anthropic, злоумышленники, которых в компании с высокой степенью уверенности считают группой, действующей под покровительством китайских властей, нацелились примерно на 30 организаций. Среди целей – крупные технологические концерны, финансовые институты, химические производители и правительственные агентства. Claude использовали для автоматизированного сбора имен пользователей и паролей из баз данных, после чего эти данные применялись для кражи конфиденциальной информации.

Эксперты компании Anthropic отмечают, что лишь "небольшое число" атак завершилось похищением особо чувствительных данных, при этом федеральные структуры США не вошли в число успешно взломанных.

Компания обнаружила подозрительную активность в середине сентября и начала внутреннее расследование. По его результатам выяснилось, что хакеры сумели "обмануть" модель, представившись сотрудниками легитимной компании по кибербезопасности, якобы проводящей тесты. Атаку разбили на множество мелких задач, чтобы затруднить обнаружение.

Представитель посольства КНР в Вашингтоне в комментарии газете Wall Street Journal, первой сообщившей о расследовании, отверг обвинения, заявив, что атрибуция кибератак – сложная задача, а США "используют тему кибербезопасности для очернения Китая".