«Культура OpenAI сломана» — один из старейших сотрудников компании ушёл из-за опасений за безопасность ИИ

⚠️ «Культура OpenAI сломана» — один из старейших сотрудников компании ушёл из-за опасений за безопасность ИИ Дэвид Робинсон проработал в OpenAI три с половиной года и руководил подготовкой отчётов о безопасности для крупных запусков. Теперь он увольняется, потому что считает подход компании слишком рискованным. Главная претензия — культура «итеративной разработки»: OpenAI выпускает технологии, обнаруживает проблемы и затем усиливает защиту. По словам Робинсона, раньше такой метод помогал компании расти, но с развитием ИИ масштаб потенциальных провалов становится всё больше. Он приводит в пример недавние инциденты с ИИ-агентами и считает, что передовые лаборатории должны работать как атомные станции или аэропорты — с несколькими уровнями защиты и тщательным планированием. OpenAI с критикой не согласилась. Представитель компании заявил, что она усиливает безопасность, привлекает сторонних экспертов и при необходимости приостанавливает обучение или откладывает выпуск моделей. Сам Робинсон считает, что проблема шире отдельных правил: сотрудники постоянно находятся в режиме спринта и у них практически не остаётся времени даже на обсуждение фундаментальных изменений в культуре разработки. Источник