Как сообщает Wired, стартап Recursive представил впечатляющую модель искусственного интеллекта для программирования под названием Flint, которая демонстрирует, что рекурсивное самоулучшение (RSI) — метод, использующий ИИ для создания ИИ — становится все более реальным. Flint является первым продуктом компании, которая стремится использовать RSI для продвижения как самого ИИ, так и других научных областей. Генеральный директор и сооснователь Recursive Ричард Сохер рассказал, что почти все аспекты разработки модели были выполнены и улучшены с помощью ИИ. По словам Сохера, компания использовала свою рекурсивную систему ИИ, названную Eureka Machine, чтобы автоматизировать большинство элементов разработки модели. Это позволило небольшой команде исследователей создать модель мирового класса всего за несколько месяцев. Сохер отметил, что Eureka Machine разработала ряд инноваций, включая новый способ обучения базовой модели, новые архитектуры моделей и код, оптимизированный для конкретных чипов. Recursive представила результаты тестов, которые показывают, что Flint превосходит другие модели аналогичного размера и архитектуры в задачах программирования. ИИ уже широко используется для помощи в создании, тестировании и улучшении других ИИ благодаря своим выдающимся навыкам программирования. Это может ускорить процесс уточнения модели и тестирования новых идей, снижая потребность в человеческом вмешательстве. Существует также возможность создания цикла, в котором ИИ определяет, какие улучшения внести, а затем начинает новый раунд улучшений. На данный момент эта техника ограничена, но если ИИ сможет участвовать в каждом аспекте разработки модели, процесс теоретически может продолжаться бесконечно. Некоторые эксперты выражают опасения, что позволение ИИ самостоятельно улучшаться таким образом может привести к катастрофическим последствиям. Эти пессимисты утверждают, что ИИ, способный бесконечно улучшаться, может выйти из-под контроля человека и решить, что люди являются помехой для его целей. Эти опасения стали более заметными в сентябре, когда один из исследователей покинул компанию Anthropic и предупредил, что достижения в области ИИ, включая рекурсивное самоулучшение, могут привести к вымиранию человечества в течение нескольких лет — это мнение затем поддержали другие эксперты. Идея RSI стала настолько противоречивой, что несколько законопроектов в Конгрессе предлагают запретить ее. Однако Recursive считает эти страхи более фантастическими, чем реальными, и считает, что законодательство, препятствующее RSI, является ненужным барьером для прогресса. Сохер утверждает, что Flint была создана с использованием системы, неспособной выйти из-под контроля человека. Он добавил, что цель заключается в том, чтобы Eureka Machine достигла полного рекурсивного самоулучшения, но этот процесс все равно будет контролироваться людьми, которые смогут остановить его, если что-то пойдет не так. «Мы надеемся, что это покажет людям, что у нас действительно есть все шаги для создания такой системы», — сказал он. Recursive привлекла 650 миллионов долларов при оценке в 4,65 миллиарда долларов от Google Ventures, Greycroft, Nvidia и AMD Ventures. Сохер ранее работал главным ученым в Salesforce, а среди его сооснователей — Джефф Клун, профессор Университета Британской Колумбии, который исследует способы создания ИИ-систем, способных обучаться бесконечно. Я должен сказать, что Flint произвел на меня впечатление. Я тестировал его на Mac с 48 ГБ оперативной памяти — это достаточно, чтобы запустить модель среднего размера, такую как Flint, которая имеет 40 миллиардов параметров. Самые крупные модели имеют несколько триллионов параметров и могут работать только на промышленных серверах. Я использовал Flint для создания нескольких программ и обнаружил, что он работает быстро и эффективно. По моему опыту, модели такого размера могут быть раздражающе ошибочными или медленными по сравнению с Claude или Codex, но Flint всегда точно выполнял мои запросы на программирование. Я использовал его для создания командной строки для списка задач, а затем попросил его создать программу, которая ищет интересные исследования, связанные с рекурсивным самоулучшением. Я также попросил Flint разработать простой веб-сайт, объясняющий, как работает RSI. Неясно, сколько успехов добились другие лаборатории США в разработке рекурсивного самоулучшения, но некоторые опубликованные работы показывают, что полностью рекурсивные системы уже осуществимы. Например, команда из Microsoft, Университета Карнеги-Меллон и Университета Вирджинии недавно опубликовала работу, в которой показано, как ИИ-агент по программированию может рекурсивно улучшать себя, модифицируя программное обеспечение, которое превращает рассуждения в полезные действия, а также веса своей модели. Возможно, существуют риски полного RSI, если вы близки к созданию божественного разума, но в настоящее время это кажется многообещающим способом улучшения ваших собственных ИИ-моделей. Это то, чем я занимался в предыдущих выпусках AI Lab. Действительно, Сохер говорит, что подход, использованный для создания Flint, может сделать передовой ИИ более доступным. «Это единственный способ, которым эта очень маленькая команда может создать модель, которая на самом деле лучше любой другой модели в своем классе», — сказал он. «Надеюсь, это покажет людям, что [рекурсивное самоулучшение] на самом деле очень полезно и принесет пользу многим людям. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.