xAI заявила о «несанкционированных изменениях» в Grok после сообщений о геноциде

В чат-бот с искусственным интеллектом (ИИ) Grok были внесены «несанкционированные изменения», сообщила разработавшая его компания xAI после того, как Grok стал писать пользователям о «геноциде белых» в ЮАР.

Изменения, которые «предписывали Grok предоставить конкретный ответ на политическую тему», были внесены в промпт (запрос) чат-бота утром 14 мая, сообщила xAI. Эти изменения «нарушали внутреннюю политику и основные ценности xAI», они были исправлены, отметили в компании.

Grok неоднократно писал про «геноцид белых» в Южной Африке в ответах на запросы пользователей, не связанные с этой темой.

В xAI заявили, что провели тщательное расследование, компания введет дополнительные меры, чтобы ее сотрудники не могли без согласования вносить изменения в чат-бот.

Кроме того, xAI с этого момента начнет открыто публиковать промпты Grok на GitHub. «Публика сможет просматривать их и давать отзывы по каждому изменению промптов, которые мы вносим в Grok», — отметили в компании.

ИИ-стартап xAI был основан в2023 году самым богатым человеком вмире Илоном Маском (состояние врейтинге Forbes’ Real-Time 17мая оценивается в $424,7 млрд). Тогда бизнесмен заявлял, что цель xAI — создать «максимально ориентированный на поиск истины ИИ». В конце 2023 года компания выпустила чат-бот Grok для премиум-подписчиков X. В ноябре того же года Маск в эпизоде подкаста с ученым Лексом Фридманом высказался за концепцию ИИ с открытым исходным кодом. По словам Маска, «в открытом ИИ» должен быть некоммерческий исходный код, а не «закрытый исходный код для получения максимальной прибыли». В марте Маск опубликовал открытый код Grok.