WSJ: Иран использовал американскую модель ИИ для отслеживания и атаки американских кораблей
Иран использовал разработанные в США модели искусственного интеллекта, пытаясь скорректировать удары по кораблям корабли ВМС США на Ближнем Востоке, говорится в докладе Anthropic, предупреждающем о новых угрозах национальной безопасности.
Как сообщает The Wall Street Journal, связанная с Ираном группа собирала и объединяла информацию с транспондеров кораблей и самолетов, военные фотографии и коммерческие спутниковые снимки, чтобы отслеживать американские военные корабли и искать уязвимости в их бортовых системах связи.
Anthropic сообщила, что пресекла деятельность этого "субъекта угрозы", использовавшего передовую модель искусственного интеллекта Claude.
В другом случае, по данным компании, группа на севере Йемена использовала Claude для разработки программного обеспечения систем наведения высокотехнологичного оружия, включая многоступенчатую баллистическую ракету. "Наши защитные механизмы заблокировали многие их запросы, но не все", – говорится в докладе Anthropic о попытках разработки оружия в Йемене.
Компания сообщила, что заблокировала связанные с этой деятельностью учетные записи, передала информацию государственным партнерам и разработала новые протоколы обнаружения, чтобы снизить риск подобных злоупотреблений в будущем.
Связанные с Россией субъекты пытались использовать Claude для создания автономных роев боевых беспилотников с использованием данных с полей сражений на Украине, а также для разработки дезинформационных кампаний путем распространения созданной ИИ пророссийской государственной пропаганды в богатых природными ресурсами странах Центральной Африки, включая Центральноафриканскую Республику и Демократическую Республику Конго.
Anthropic также сообщила, что выявила связанную с китайскими властями операцию, в рамках которой Claude использовался для отслеживания уйгуров и слежки за ними. Уйгуры – этническое меньшинство, проживающее преимущественно на западе Китая. Особое внимание уделялось уйгурам, вступившим в недавно сформированную сирийскую армию.
154-страничный доклад компании Anthropic показывает, как противники США используют ИИ новыми способами, представляющими серьезную угрозу национальной безопасности: для разработки новых ракет, проведения агрессивных дезинформационных кампаний, слежки за диссидентами и даже потенциальной разработки биологического оружия.
Ведущие компании в сфере ИИ и компании, занимающиеся безопасностью, регулярно публикуют доклады об угрозах, связанных с этой технологией, чтобы информировать общественность и своих партнеров о потенциальных рисках.