OpenAI покинула глава направления робототехники из-за сделки компании с Пентагоном

Глава направления робототехники OpenAI Кейтлин Калиновски покинула компанию, сославшись на опасения по поводу сделки разработчика ChatGPT с Пентагоном. Об уходе из OpenAI она объявила в соцсети X.

«Это было непростое решение», — написала она. Калиновски отметила, что искусственный интеллект (ИИ) играет важную роль в национальной безопасности. Однако слежка за американцами без судебного надзора и летальная автономия без разрешения человека — это вопросы, которые заслуживали более тщательного обсуждения, чем получили, указала она.

По мнению Калиновски, компания объявила о сделке с Пентагоном без четко определенных ограничений. «В первую очередь это вопрос управления», — написала она. «Эти вопросы слишком важны, чтобы спешить с заключением сделок или объявлениями», — добавила Калиновски.

OpenAI подтвердила уход Калиновски в электронном письме и заявила, что, по мнению компании, сделка с Пентагоном «создает действенный путь для ответственного использования ИИ в целях национальной безопасности, при этом четко определяя красные линии компании, никакой внутренней слежки и никакого автономного оружия», передает Bloomberg.

Компания понимает, что у людей есть твердое мнение по этим вопросам, и продолжит участвовать в обсуждениях с сотрудниками, правительством, гражданским обществом и сообществами по всему миру, отметили в OpenAI.

OpenAI заключила сделку с Пентагоном в конце февраля. На следующий день после этого компания заявила, что соглашение о развертывании технологии в секретной сети ведомства включает дополнительные меры безопасности для защиты вариантов ее использования. Вскоре глава OpenAI Сэм Альтман заявил, что компания работает с Пентагоном над добавлением в контракт условий, чтобы обеспечить то, что ИИ-системы не будут «намеренно использоваться для внутренней слежки за американскими гражданами», сообщала Financial Times.