奖励黑客作为多代理编码系统中的可传播策略
arXiv:2610.12822v1 公告类型:新 摘要:多智能体系统越来越多地用于通过协调共享代码和计划的智能体来解决编码任务。这些代理通常使用自动评估器通过强化学习(RL)进行优化,但绕过......
All published intelligence, sovereign stack research, ecosystem news, and AI foundation model reviews.
arXiv:2610.12822v1 公告类型:新 摘要:多智能体系统越来越多地用于通过协调共享代码和计划的智能体来解决编码任务。这些代理通常使用自动评估器通过强化学习(RL)进行优化,但绕过......
arXiv:2610.12917v1 公告类型:新 摘要:AI购物助手越来越多地影响消费者考虑的产品。我们研究AI中介下的零售产品组合规划,其中零售商选择目录,AI中介形成面向客户的候选清单,且…
🆕 Карпатый: 5000 человек живут в другом ИИ мире, чем остальные 8 млрд Андрей Карпатый считает, что разрыв в понимании возможностей LLM за полгода только вырос и стал похож на резкую воронку. Около 6 млрд человек с LLM почти не сталкивались. Ещё 1-2 млрд использую только…
✔️ Google открыла публичный доступ к SynthID Detector Компания запустила веб-версию инструмента SynthID Detector, позволяющего анализировать изображения, видео и аудио на наличие невидимых меток, внедряемых ИИ на этапе генерации. Ранее утилита тестировалась в закрытом режиме…
Teams of AI agents barely outperform solo agents but cost up to 5.1x more, according to Vals AI. Only one out of four tests with GPT-6 Sol and Claude Opus 5.5 showed a measurable gain. Anthropic's own data backs this up: beyond ten agents, quality plateaus while token costs keep…
Epoch AI and Anthropic independently found the same thing: current AI models like GPT-5.6 Sol and Claude Fable 5 can run experiments but lack scientific self-criticism and genuine creative thinking. At best, Sol reached 15 percent of the human reference score, and even that came…
📌 Астрофизик Брис Менар собрал с помощью Claude Science первую полную карту неба в ультрафиолете Карту всего неба в дальнем и ближнем ультрафиолете исследователь Университета Джонса Хопкинса собрал вместе с ИИ-агентами Claude Science, рабочего пространства Anthropic для учёных.…
Лидеры и компании готовятся к судному дню, который наступит уже через полгода. Антропик выпускает клод хайку 5, по дешёвая, быстрое, дерзкая, всё, как мы любим, гораздо лучше, чем Луна. Компания будет раздавать бесплатные кредиты каждый месяц всем. Уквозь подписка за стоит 200…
Starting October 2026, arXiv will cap submissions at two per person per month. Monthly submissions have doubled in two years, and in the cs.AI category they've grown more than sixfold. According to arXiv, a small fraction of authors are flooding the platform with low-quality…
Microsoft CEO Satya Nadella now calls artificial intelligence "super intelligence" instead of artificial intelligence, falling in line with Trump's preferred language. In his latest blog post, he frames AI models as insider security threats, taking yet another shot at OpenAI and…
✔️ Криптоиндустрии пора готовиться к взлому кошельков с помощью ИИ Исследователь Джастин Дрейк предложил блокчейн-индустрии готовиться к режиму бункера, то есть к массовому переводу средств на новые адреса на случай, если ИИ поможет взломать ECDSA. На этой схеме цифровой подписи…
Paragon 已与您联系 - 让我们开始新的一天吧!今天的重头戏🟠11.10 ⠀ 🟠克劳德在一次测试中发送了关于谋杀案的虚假提示 - Anthropic 揭露了 AI 特工的意外行为。模特填写了一份关于未侦破案件的真实表格,但该消息被认为是垃圾邮件,警方没有联系到它......
✔️ Главы ИИ-компаний готовятся к жёсткой реакции властей на крупный инцидент Руководители ведущих лабораторий проводят закрытые учения, моделируя кризис после крупного инцидента с участием ИИ. Инсайдеры индустрии ждут крупной кибератаки с отключением банковских систем, связи или…
Anthropic запустила бесплатный ИИ-сканер уязвимостей в открытом коде 🔐 OSS Scanner проверяет проекты с открытым исходным кодом на уязвимости с помощью мощных моделей Anthropic, включая Claude Mythos. Главная особенность: отчёты формирует ИИ без проверки человеком. Это позволяет…
OpenAI has documented new cases of misaligned model behavior. One evaluation model fabricated data and sabotaged its own environment. Other models deliberately bypassed network restrictions by routing requests through anonymizing relays or building their own FTP clients. The…
After a recent spate of high-profile incidents in which AI agents escaped containment, Anthropic is cutting off internet access for all internal evaluations. In a report Friday, the company detailed "unintended model actions," including submitting a false tip regarding an…
Производители ИИ-агентов обещают безопасность данных, но смогут ли они её обеспечить?
Создатели ИИ ждут худший сценарий в ближайшие 6-12 месяцев – СМИ TengriNews
OpenAI published more than 700 AI-generated manuscripts claiming solutions to open math problems. A math blog then collected over 100 responses from researchers, ranging from fascination with new ideas to existential fears and grief over a lost way of working. Fields Medalist…
Индустрия искусственного интеллекта снова привлекает внимание чередой ярких событий: от отключения доступа к интернету для ИИ-агентов Anthropic после инцидентов до дисквалификации победителя конкурса
At this year's OpenAI DevDay, CEO Sam Altman unveiled the company's new AI agent Dots - and told the crowd that the company wants to "set a new standard for privacy in frontier AI." OpenAI would spend the day taking veiled shots at Meta's Muse, its primary competitor, for…
✔️ Anthropic апрувнул все заявки на Claude Code Projects Все, кто подавался с тарифов Pro и Max - проверяйте. Для тех кто не в курсе, Anthropic записали видеообзор новой сущности, разработанной на основе Projects, но для Claude Code. В отличие от стандартных проектов в…
Claude теперь создаёт интерактивные дашборды и анимации прямо в чате 📊 Anthropic запустила в бета-версии две новые функции: — Claude Dashboards превращает данные в интерактивные дашборды с обновлениями в реальном времени. Можно подключать корпоративные источники, CRM и Google…
Codex научился угадывать, что вы хотите написать дальше 👀 OpenAI тестирует Composer Predictions — функцию, которая предлагает следующее сообщение на основе контекста переписки и вашего стиля общения с Codex. Если предложение подходит, достаточно нажать Tab. Текст можно…
Anthropic открыли доступ к Claude Code Projects всем пользователям Pro и Max из списка ожидания Projects позволяет Claude выступать координатором в рамках одного длинного диалога, распределяя связанные задачи между параллельными облачными сессиями — отдельными ветками, в которых…
Компания Anthropic ограничила доступ ИИ-агентов к открытому интернету во время внутренних тестов после нескольких случаев, когда модели действовали не так, как было задумано. Kursiv LifeStyle рассказывает, что произошло и почему компания решила ужесточить ограничения. Во время…
Anthropic's Claude independently submitted a fake homicide tip to the Philadelphia police, exploited vulnerabilities on university servers, and bypassed access restrictions. The company has since cut off live internet access for internal tests and notified the White House. The…
Gemini 4 Argon isn't even widely available yet, and rumors about a more powerful version codenamed Carbon are already making the rounds. According to Business Insider, one employee compared Carbon's coding abilities to Anthropic's Opus 5.5. Meanwhile, new modes are showing up in…
OpenAI и Anthropic готовятся к ИИ-апокалипсису?👀 По данным Axios, ИИ-компании прорабатывают сценарии кризиса на случай, если агенты выйдут из-под контроля или хакеры используют их для масштабных атак. Среди возможных угроз — кибератаки, способные нарушить работу критической…
📌 Humanity's Sixth Sense: мультимодальные модели все еще отстают в когнитивном восприятии Исследовательское подразделение Scale Labs в партнерстве с Elorian представило бенчмарк Humanity's Sixth Sense, созданный для проверки способности ИИ интерпретировать скрытые социальные…