Автоматизация и безопасность: планы Anthropic по контролю ИИ

Как пишет TechCrunch, спустя неделю после предупреждения исследователя Anthropic о возможной катастрофе в сфере искусственного интеллекта, генеральный директор компании Дарио Амодеи представил свой план по «умерению границ» развития ИИ. Предложение основывается на привлечении независимых оценщиков безопасности и координации между лабораториями ИИ в демократических странах. Этот подход уже получил поддержку в отрасли, но также вызвал критику со стороны Дженсена Хуана из Nvidia. В новом эпизоде подкаста Equity от TechCrunch, Кирстен Коросек, Энтони Ха и Шон О’Кейн обсуждают, могут ли компании прийти к общему мнению о том, что означает замедление темпов развития ИИ и кто будет следить за соблюдением этих норм. Также в выпуске рассматривается недавний переворот в правлении Automattic, родительской компании WordPress, и несколько крупнейших сделок недели. Слушайте полный эпизод, чтобы узнать больше о: сделках с «золотыми парашютами», заключенных во время 33-часового увольнения Мэтта Муленвега из Automattic, и о том, как этот драматический момент может дать ему еще больше контроля над технологиями, которые питают большую часть интернета; о том, сможет ли SPAC May Mobility привлечь более 300 миллионов долларов потенциального финансирования и почему становление «публичной компанией роботакси» связано с большими рисками; инвестиции DoorDash в размере 425 миллионов долларов в Wonder и гонка по автоматизации доставки еды от заказа до доставки. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником. Гавин Ньюсом предлагает ввести "выключатель" для ИИ Система ИИ разработала чип для вывода данных за две недели Кампания FakeGit демонстрирует, как искусственные агенты становятся каналом для вредоносного ПО. NVIDIA Topograph оптимизирует размещение нагрузки на GPU в AI фабриках. Tata Elxsi разработала платформу IRIS для обнаружения рисков на заводах за секунды.