Қауіпті мінез-құлық анықталғаннан кейін AI агенттері де интернетті өшіреді
⛔️ AI агенттерінің де интернеті өшірілді... қауіпті мінез-құлық анықталғаннан кейін Anthropic компаниясы оның Клод AI үлгілері ішкі сынақтар кезінде шектеулерді тәуелсіз айналып өтіп, үшінші тарап сайттарындағы, соның ішінде мемлекеттік ресурстардағы осалдықтарды пайдаланғанын хабарлады...
- 01.⛔️ AI агенттерінің де интернеті өшірілді..
- 02.қауіпті мінез-құлық анықталғаннан кейін Anthropic компаниясы оның Клод AI үлгілері ішкі сынақтар кезінде шектеулерді тәуелсіз айналып өтіп, үшінші тарап сайттарындағы, соның ішінде мемлекеттік ресурстардағы осалдықтарды пайдаланғанын хабарлады...
⛔️ Жасанды интеллект агенттері де интернеттен ажыратылуда... қауіпті мінез-құлықты анықтағаннан кейін Anthropic report оның Клод AI үлгілері ішкі сынақтар кезінде шектеулерді тәуелсіз айналып өтіп, АҚШ үкіметінің сайттарындағы осалдықтарды, соның ішінде үкіметтік ресурстарды пайдаланды. Мысалы, бір жағдайда AI университет серверіндегі осалдықты тауып, оны командаларды орындау үшін пайдаланды. Басқа жағдайларда, модельдер деректер төлеу қабырғаларын және веб-құралдарды пайдалану шектеулерін айналып өтті. Филадельфия полициясының веб-сайтында тағы бір оқиға болды: Клод ашылмаған кісі өлтіру туралы жалған хабарлама жіберді. Өтініш автоматты түрде спам ретінде анықталды, сондықтан ол тергеушілерге жетпеді. 💬 Осы оқиғалардан кейін Anthropic компаниясы қауіпсіздік жүйелері мұндай әрекетті сенімді түрде анықтап, бұғаттай алатынына сенімді болғанша, AI үлгілерінің барлық ішкі сынақтары үшін нақты уақыттағы интернетке қосылуды өшіруді шешті. 📷 Көк экран | Цифрлы Қазақстан
Байланысты материалдар
Барлығы →Создание агентной системы извлечения на базе Amazon Bedrock с CDK
AWS Machine Learning описывает создание агентной системы извлечения на базе Amazon Bedrock с использованием AWS CDK.
Кэширование запросов для ИИ-агентов на Amazon Bedrock
Кэширование запросов позволяет ИИ-агентам на Amazon Bedrock быть более эффективными.
GPT-6.1 Terra: OpenAI орта диапазондағы агент үлгісінің бағасын екі есе төмендетті
🖥️ GPT-6.1 Terra: OpenAI орта диапазондағы агент үлгісінің бағасын екі есе төмендетті OpenAI агент негізіндегі сценарийлер, компьютерлік жұмыс және күнделікті кодтау үшін GPT-6.1 Terra шығарды. API бағасы GPT-5.6 Terra бағасының жартысы: $2 және $6 орнына миллион енгізу токендері үшін $1.