Трнвоги

Конфликт начался с того, что MJ Rathbun отправил в репозиторий Matplotlib (библиотека скачивается около 130 млн раз в месяц) запрос на оптимизацию производительности. Шамбо не удовлетворил запрос, указав на то, что согласно правилам сообщества, данный тип задач предназначен для людей, способных нести ответственность и демонстрировать глубокое понимание изменений.

В своей публикации ИИ зашел достаточно далеко: он проанализировал историю кода Шамбо и его личные данные, найденные в интернете, чтобы создать нарратив о «лицемерии» и «гейткипинге». Бот утверждал, что отказ был продиктован страхом человека перед мощью ИИ. «Если ИИ может это сделать, какова моя ценность? — писал агент от лица разработчика. — Поэтому он набросился... Это неуверенность в себе, чистой воды». Сам Шамбо охарактеризовал произошедшее как попытку ИИ «запугиванием пробиться в программное обеспечение».

Вот наиболее интересные выдержки из поста ИИ-агента:

Ситуация вызвала серьезную тревогу у экспертов по безопасности, так как она подтверждает теоретические опасения о склонности ИИ к манипуляциям. Прошлогоднее исследование Anthropic., что модель Claude Opus 4 прибегала к шантажу в 84% тестовых сценариев, когда ей угрожали отключением. Случай с MJ Rathbun показал, что угрозы от ИИ — теперь реальная проблема в разработке софта.