ИИ не гарантирует объективности. Китайский чатбот следует доктрине Си Цзиньпина

Китайская академия киберпространства объявила о создании чат-бота, обученного доктрине Си Цзиньпина, которая пропагандирует "социализм с китайской спецификой", сообщает The Associated Press.

Большая лингвистическая модель (LLM) обучалась на семи базах данных. Шесть – в основном содержат сведения об информационных технологиях, предоставленные китайской службой по надзору за интернетом – Администрацией киберпространства Китая. Седьмой базой данных стала "Мысль Си Цзиньпина", содержащая правильные данные о доктрине китайского руководителя.

Новая LLM стала очередной попыткой китайских властей по распространению идеологии и идей китайского лидера. Доктрина Си Цзиньпина, известная как "Идея Си Цзиньпина о социализме с китайской спецификой новой эпохи", состоит из 14 принципов, включая абсолютную власть Коммунистической партии Китая, укрепление национальной безопасности и социалистических ценностей, и улучшение условий жизни и благосостояния жителей страны.

Чат-бот разработан в первую очередь как демонстрационная модель, будет ли он использоваться публично – не сообщается. Он может создавать отчеты, обобщать информацию и делать переводы на китайский или английский язык для пользователей, имеющих к ней доступ.

Технические подробности обучения ИИ идеям Си Цзиньпина не сообщаются. Обычно для такого рода специализированных моделей используется работа AI-тренеров, которые выбирают правильные ответы из набора предлагаемого LLM, и на этих ответах LLM дообучается.

Технологические компании, такие как Alibaba и Baidu, уже выпустили свои модели ИИ на китайском языке, подобные ChatGPT, для публичного и коммерческого использования. Но эти модели должны подчиняться строгим правилам цензуры Китая: они, как правило, не отвечают на политически чувствительные вопросы.