Чат-бот был отключен после рекомендации съесть коровьи яйца и неправильных ответов по математике

Франкоязычный чат-бот был отключен после того, как стал давать нелепые ответы на простые математические задачи и посоветовал одному пользователю есть коровьи яйца, сообщает CNN.

В заявлении, опубликованном 25 января, компания Linagora Group, которая является частью консорциума, работающего над моделью Lucie, сообщила, что проект находится на ранних стадиях и остается "академическим исследованием". Представители Linagora отметили, что Lucie была выпущена слишком рано, и следовало бы более ясно объяснить пользователям ограничения модели в ее текущем виде.

После запуска Lucie пользователи начали делиться в социальных сетях ошибочными ответами чат-бота, включая один, в котором модель путала коровьи яйца с куриными. "Коровьи яйца, также известные как куриные яйца, – это съедобные яйца, которые производят коровы", – был один из ответов Lucie. "Коровьи яйца являются источником белка и питательных веществ и считаются здоровой пищей".

Когда модель попросили умножить 5 на (3+2), она ответила 17 вместо правильного 25. Также Lucie утверждала, что "квадратный корень из числа козлов равен единице", как сообщали пользователи.

Проект Lucie является ключевым элементом инвестиционной программы президента Эммануэля Макрона "Франция 2030", стоимость которой составляет 54 миллиарда евро. Программа направлена на поддержку инноваций и сокращение зависимости от зарубежных технологий. Lucie должна стать альтернативой англоязычным моделям ИИ, таким как ChatGPT от OpenAI, и продвигать использование французского языка. Название проекта выбрано в честь одного из древнейших предков человека, пояснили в Linagora.