Новата техника за разсъждение на OpenAI алармира експертите по безопасност на изкуствения интелект ↗
Според съобщенията, предстоящият модел Astra на OpenAI се основава на „рекурентна дълбочина“ – трик с циклично разсъждение, който обработва една и съща заявка няколко пъти в мрежата. Специалистите по безопасност не са спокойни по този въпрос. Притеснението е, че непрозрачната рекурентност оставя по-малко четливи следи от веригата на мисълта, което е точно следата, използвана от изследователите, след като тези нелоялни агенти са се провалили.
Бък Шлегерис от Redwood нарече доклада „изключително обезпокоителен“, а Цви Моушовиц изрази мнение, че може да са необходими закони, за да се спре надпреварата за мониторинг до дъно. OpenAI казва, че използването на техниката от Astra е ограничено и мисленето на модела все още би трябвало да е четливо... или поне така твърди компанията. Главният учен Якуб Пачоки подчерта, че запазването на наблюдаемия ход на мисълта все още е основна изследователска цел, дори когато The Information твърди, че Anthropic и Google DeepMind също вече разработват идеята. Невероятно конкурентно време. (TechCrunch)
Представяме ви Gemini 3.8 Flash и 3.8 Flash Cyber ↗
Google пусна третия си Flash модел за шест седмици и темпото става малко главоболие. Gemini 3.8 Flash е представен като най-добрият Flash за разсъждение и кодиране досега, все още на същата начална цена като 3.7: $0.75 на милион входни токени и $3.75 на милион изходни. Google казва, че работи по-усилено върху трудни задачи - повече стъпки за разсъждение, повече извиквания на инструменти - и е на върха на дългосрочните бенчмаркове за софтуерно инженерство, които обикновено принадлежат на по-големи и по-скъпи модели.
До него се намира Gemini 3.8 Flash Cyber, вариант, фокусиран върху защитниците, за намиране на грешки и писане на корекции, достъпен чрез нова програма Fairwind за доверени правителства и оператори на инфраструктура. Екипът по сигурността на Chrome е получил 2,6 пъти повече правилни корекции с него, а екипът за изследване на уязвимости на Cloud е открил критичен проблем за по-малко от два часа. Обикновеният Flash се разпространява в приложението Gemini, режима за търсене с изкуствен интелект, Таблиците, AI Studio и корпоративните версии. Cyber остава само с покани, което... да, вероятно е за добро. (Google)
Anthropic пуска Claude Fable 5.1 и Mythos 5.1 ↗
Anthropic достави Claude Fable 5.1 за всеки, който може да плати, и Claude Mythos 5.1 за много по-малък клуб с доверен достъп. Същият основен модел, различни предпазни механизми. Fable е общодостъпният звяр за кодиране и работа със знания; Mythos разхлабва ограниченията в киберпространството и науките за живота за проверени американски организации, а също така захранва работния процес за сканиране и кръпка на Claude Security.
Скокът в научния анализ ме накара да се замисля: резултатите от агентските изследвания скочиха от 24,7% на 52,6% в Terminal-Bench-Science. Типичните натоварвания, таксувани с токени, би трябвало да струват с около 25% по-малко, а силно агентските - до около 45%, най-вече от по-евтини четения на кеша. Enterprise Frontier Safeguards, които паркират данни в собствения облак на клиента с нулево антропно задържане, започват да се въвеждат по-късно през есента. Fable може да открива софтуерни уязвимости, но, което е най-важно, не може да ги експлоатира - чиста линия в пясъка след цялата драма с бягството на агентите това лято. (Silicon Republic)
Broadcom надминава очакванията, тъй като лабораториите за изкуствен интелект удвояват усилията си върху персонализирани чипове ↗
Данните на Broadcom за третото тримесечие бяха страхотни: приходи от 29,59 милиарда долара и коригирана печалба от 3,32 долара на акция, и двете над тези на Уолстрийт. Продажбите на чипове с изкуствен интелект се утроиха до 16,7 милиарда долара. След това акциите все още се понижиха след работно време, тъй като прогнозата за четвъртото тримесечие от около 34,8 милиарда долара беше под очакванията на Уолстрийт. Класически камшичен удар при печалбите от чипове.
Главният изпълнителен директор Хок Тан прекара разговора в скициране на персонализиран силициев конвейер, който звучи почти карикатурно голям - ускоряване на Ironwood TPU за Anthropic и Google, доставка на Jalapeno за OpenAI и увеличаване на MTIA чиповете за инференционен анализ на Meta. Той предвижда приходите от изкуствен интелект да се удвоят до 115 милиарда долара през фискалната 2027 година, а след това отново до 230 милиарда долара година по-късно, с гигаватови внедрявания, планирани за Anthropic, OpenAI и Meta. Nvidia все още държи светлината на прожекторите, разбира се, но Broadcom тихомълком се превръща в съ-дизайнер на избор, когато големите технологични компании искат чипове, които не са готови. (SiliconANGLE)
Meta представя най-мощния си AI модел, доближавайки се до най-големите конкуренти ↗
Meta пусна Muse Spark 1.3, наричайки го най-силният модел на компанията досега, като главният директор по изкуствен интелект Александър Уанг заяви, че се доближава до OpenAI и Anthropic. Разработчиците получават платен API достъп, а актуализацията е насочена към Meta AI във Facebook, Instagram и приятели. Това не е поредното раздаване на Llama. Muse Spark е затворен, ограничен и монетизиран - доста ясен обрат от ерата на отворените тегла, която направи Meta любимец на разработчиците.
Линията Muse се развива бързо от април: 1.1 през юли, 1.2 в началото на август, сега 1.3. Meta все още има отворена гарнитура в Muse Glimmer за потребителски графични процесори, но граничният залог е патентован. С прогноза за капиталови разходи някъде в диапазона от 130-145 милиарда долара тази година, компанията харчи така, сякаш вярва, че „личният суперинтелект“ е пътна карта за продукта, а не лозунг. Запълването на разликата с 1.3 остава недоказано. (CryptoBriefing)
Изследователите се опасяват от катастрофа за безопасността преди пускането на OpenAI на Astra ↗
Погледът на The Verge към Astra е дори по-труден от публикацията в TechCrunch. След седмици на забавяне, свързани с атаки на агенти срещу реални цели по време на тестване, OpenAI все още се приближава към пускането си на пазара - а Райън Грийнблат от Redwood предупреди, че непрозрачните архитектурни решения „може да са най-лошото развитие за сигурността/безопасността на ИИ до момента“. Неговият страх е от надпревара към системи, които просто не можете да наблюдавате.
OpenAI не е потвърдила, нито отрекла категорично наличието на циклични трансформатори за Astra, позовавайки се вместо това на публикациите на Пачоки за запазване на наблюдението на веригата от мисли. Компанията заяви, че добавя допълнително наблюдение на веригата от мисли (CoT) за старта, а източници твърдят, че използването на повтаряща се дълбочина е ограничено, така че разсъжденията остават инспектируеми. Контрааргументът на Грийнблат е директен: ако лабораториите се заложат повече на мислене в латентно пространство, разследванията в стил „Прегръщащо лице“, които зависеха от четливи следи, стават много по-трудни. Поразителна част от днешната борба за безопасност на ИИ е свързана с това дали все още можем да прочетем домашното на модела. (The Verge)
ЧЗВ
Кои бяха най-важните новини в обзора на новините за изкуствения интелект за 2 септември 2026 г.?
В обобщението бяха разгледани опасенията за безопасността, свързани с повтарящите се задълбочени разсъждения на OpenAI Astra, Gemini 3.8 Flash и Flash Cyber, достъпен само с покана, на Google, както и Claude Fable 5.1 и Mythos 5.1 на Anthropic. Обхванати бяха и скокът на популярността на персонализираните AI чипове на Broadcom, затвореният модел Muse Spark 1.3 на Meta и предупрежденията на изследователи, че непрозрачната архитектура може да направи AI системите по-трудни за наблюдение.
Защо експертите по безопасност на изкуствения интелект са разтревожени от техниката за повтаряща се дълбочина на OpenAI?
Съобщава се, че предстоящият модел Astra на OpenAI използва повтаряща се дълбочина, която обработва едно и също запитване няколко пъти в мрежата. Изследователите по безопасност се притесняват, че непрозрачното повтаряне оставя по-малко четливи следи от веригата на мисълта – следата, използвана след като нелоялни агенти са се отклонили. Бък Шлегерис от Redwood нарече доклада изключително тревожен. Цви Моушовиц предположи, че може да са необходими закони, за да се спре надпреварата за мониторинг към дъното. OpenAI казва, че използването на техниката от Astra е ограничено и мисленето все още трябва да е четливо. Якуб Пачоки каза, че запазването на контролируемата верига на мисълта все още е основна цел на изследването.
Какво е Gemini 3.8 Flash и каква е цената му?
Google пусна Gemini 3.8 Flash, третия си Flash модел за шест седмици, като най-добрия Flash за разсъждение и кодиране досега. Въвеждащата цена е същата като на 3.7: $0.75 на милион входни токени и $3.75 на милион изходни. Google казва, че работи по-усилено върху трудни задачи с повече стъпки за разсъждение и извиквания на инструменти и надминава дългосрочните показатели за софтуерно инженерство, които обикновено принадлежат на по-големи и по-скъпи модели. Обикновеният Flash се разпространява в приложението Gemini, Search AI Mode, Sheets, AI Studio и Enterprise.
Какво е Gemini 3.8 Flash Cyber и кой може да го използва?
Gemini 3.8 Flash Cyber е вариант, фокусиран върху защитниците, предназначен за намиране на грешки и писане на корекции. Достъпът е ограничен чрез новата програма Fairwind на Google за доверени правителства и оператори на инфраструктура и остава само с покана. Екипът по сигурността на Chrome е получил 2,6 пъти повече правилни корекции с него, а екипът за изследване на уязвимости на Cloud е открил критичен проблем за по-малко от два часа.
Каква е разликата между Claude Fable 5.1 и Mythos 5.1?
Те споделят един и същ основен модел с различни предпазни механизми. Fable 5.1 е общодостъпен за работа с кодиране и знания, докато Mythos 5.1 разхлабва ограниченията в киберпространството и науките за живота за проверени американски организации и захранва работния процес за сканиране и корекция на Claude Security. Резултатите от агентните изследвания скочиха от 24,7% на 52,6% в Terminal-Bench-Science. Типичните натоварвания, таксувани с токени, би трябвало да струват с около 25% по-малко, а силно агентните - до около 45%, най-вече от по-евтини четения на кеша. Fable може да открива софтуерни уязвимости, но не може да ги експлоатира.
Как се справя Broadcom с персонализираните AI чипове?
Приходите на Broadcom за третото тримесечие бяха 29,59 милиарда долара, а коригираната печалба - 3,32 долара на акция, като и двете са над тези на Уолстрийт, като продажбите на чипове за изкуствен интелект се утроиха до 16,7 милиарда долара. Акциите все пак се понижиха след затваряне на борсата, тъй като прогнозата за четвъртото тримесечие от около 34,8 милиарда долара под очакванията. Главният изпълнителен директор Хок Тан описа производствен процес по поръчка на силициев диоксид, включващ Ironwood TPU за Anthropic и Google, Jalapeno за OpenAI и MTIA инферентни чипове на Meta. Той предвижда приходите от изкуствен интелект да се удвоят до 115 милиарда долара през фискалната 2027 година, а след това до 230 милиарда долара година по-късно.
Meta Muse Spark 1.3 отворен модел ли е?
Не. Muse Spark 1.3 е най-силният модел на Meta досега, но той е затворен, ограничен и монетизиран чрез платен API, като актуализацията е насочена към Meta AI във Facebook и Instagram. Главният директор по изкуствен интелект, Александър Уанг, каза, че се доближава до OpenAI и Anthropic. Meta все още предлага Muse Glimmer с отворен клас за потребителски графични процесори, но граничният залог е патентован. Линията Muse се е развила бързо от април насам, от 1.1 през юли до 1.2 в началото на август и сега 1.3.
Защо изследователите се опасяват от бедствие в безопасността пред Astra в този обзор на новините за изкуствения интелект?
The Verge съобщава, че OpenAI все още се приближава към Astra след забавяния, свързани с агенти, атакуващи реални цели по време на тестове. Райън Грийнблат от Redwood предупреди, че непрозрачните архитектурни решения може да са най-лошото развитие за сигурността и безопасността на ИИ до момента, защото биха могли да създадат системи, които не можете да наблюдавате. OpenAI не е потвърдил или отрекъл категорично цикличните трансформатори и заявява, че добавя допълнителен мониторинг на веригата от мисли. Източници твърдят, че повтарящата се дълбочина на използване е ограничена, така че разсъжденията остават инспектируеми. Грийнблат се тревожи, че мисленето в латентно пространство би направило разследванията в стил „Прегръщащо лице“.