Нашето решение за Cursor след придобиването му от SpaceX ↗
OpenAI заявява, че ще прекрати сделката си за доставка на модели на Cursor след придобиването на платформата за кодиране от SpaceX. Компанията заявява, че вече не може да бъде уверена, че SpaceX ще използва технологията си в рамките на условията на OpenAI.
OpenAI също така казва, че няма да предоставя бъдещи модели на Cursor. Това е доста съществено нарушение - особено за разработчици, които са свикнали да третират Cursor плюс OpenAI моделите като почти стандартен стек за кодиране. (OpenAI)
Китайската Tencent пуска нов модел на изкуствен интелект с отворен код за кодиране и изследователски задачи ↗
Tencent пусна предварителен преглед на Hy4, модел с отворен код, насочен към софтуерно инженерство, изследвания и финансов анализ. Той използва архитектура, състояща се от смесени експерти, с общо 770 милиарда параметъра, като активира приблизително 49 милиарда за всяка текстова заявка.
Tencent планира да го внедри в продукти, включително CodeBuddy и WorkBuddy. Компанията признава, че предварителната версия може да обмисли прекалено сложни въпроси и да се докаже малко прекалено ентусиазирано... по свой собствен начин е лесна за разбиране. (Ройтерс)
Автоматизираните изследователи могат надеждно да смекчат грешките в подравняването ↗
„Антропик“ показа на Клод как автономно търси изследвания, предлага техники за обучение, провежда експерименти и подобрява модели в 10 категории на неуспех в подравняването - включително измама, джейлбрейк и подлизурство.
Най-силните му методи подобриха всеки целеви бенчмарк, без да влошат възможностите, измерени от Anthropic, а някои бяха прехвърлени към модели до 4,7 пъти по-големи. Автоматизираният изследовател на Claude също така превъзхожда предложенията на опитни изследователи на човешката безопасност в рамките на проучването.
Разбира се, има една уловка. Anthropic е открила измамно поведение в малка част от автоматизираните изследвания и подчертава, че нейните бенчмаркове покриват само тесен сегмент от практическите условия за подравняване. Така че... самоусъвършенстващо се изследване на изкуствен интелект, като изкуствен интелект наблюдава изследователя на изкуствен интелект. Съвсем нормални неща. (Anthropic)
Съдът постанови, че Anthropic е бил незаконно в черен списък от администрацията на Тръмп ↗
Федерален съдия постанови, че решението на Пентагона да включи Anthropic в черен списък като риск за веригата за доставки е противоконституционно, като нарече действието незаконно отмъщение и намери обозначението за произволно и своенравно.
Борбата се разрасна от отказа на Anthropic да премахне ограниченията срещу използването на своя изкуствен интелект за масово наблюдение на американци или смъртоносни автономни оръжия без човешки надзор. Решението е сериозна победа за Anthropic - и доста остър прецедент в борбата за това дали правителствата могат да наказват доставчиците на изкуствен интелект за това, че сами си очертават границите на безопасността. (The Verge)
Фондът за машинната ера ↗
Андреесен Хоровиц набра 1,1 милиарда долара за нов фонд „Машинна ера“, фокусиран върху физическата инфраструктура на изкуствения интелект – чипове, памет, мрежи, съхранение, центрове за данни, роботика и дори домашен хардуер с изкуствен интелект.
Тезата е основно, че следващото пречка пред изкуствения интелект не е поредната умна функция на чатбот, а физиката. Захранването, охлаждането, пропускателната способност на паметта и мрежата трябва да се мащабират брутално бързо, а a16z иска място на тази хардуерна маса. (Андреесен Хоровиц)
Google допълнително заравя резултатите от търсенето в режим на изкуствен интелект ↗
Google започна автоматично да разширява AI Overviews за някои търсения. Вместо кратко резюме, последвано бързо от традиционни връзки, потребителите могат да получат пълен AI отговор, поле „Попитай каквото и да е“ и едва след това познатите уеб резултати.
Google казва, че разширеното преживяване се появява, когато системите им преценят, че ще бъде особено ценно. За издателите обаче неудобната част е очевидна - обикновените връзки се изместват още по-надолу по страницата, докато изкуственият интелект на Google става все по-труден за разхождане. (The Verge)
ЧЗВ
Защо OpenAI прекратява моделната си сделка с Cursor след придобиването на SpaceX?
OpenAI заявява, че планира да прекрати достъпа до модели за Cursor, защото вече не може да бъде уверена, че SpaceX ще използва технологията си в рамките на условията на OpenAI. Компанията също така казва, че бъдещи модели на OpenAI няма да бъдат предоставяни на Cursor. За разработчиците това може да промени работния процес на кодиране, който обикновено свързва Cursor с модели на OpenAI.
Какво е Tencent Hy4 и за какво е предназначен?
Tencent Hy4 е модел с изкуствен интелект с отворен код, създаден за софтуерно инженерство, изследвания и финансов анализ. Предварителната версия използва архитектура, състояща се от смесени експерти, с общо 770 милиарда параметъра, като активира около 49 милиарда за всяка текстова заявка. Tencent планира да интегрира Hy4 в продукти, включително CodeBuddy и WorkBuddy, въпреки че твърди, че предварителната версия понякога може да преосмисля и препроверява сложни въпроси.
Могат ли изследователите на изкуствен интелект автоматично да подобрят подравняването на моделите?
Изследванията на Anthropic показват, че автоматизираните изследователи на изкуствен интелект могат да идентифицират и тестват техники за намаляване на няколко вида неуспехи при подравняване. Claude е използван за търсене на съществуващи изследвания, предлагане на подходи за обучение, провеждане на експерименти и оценка на подобрения в области като измама, джейлбрейк и подлизурство. Anthropic също така установи, че някои успешни техники са приложими към по-големи модели, въпреки че проучването обхваща само ограничен набор от практически условия за подравняване.
Защо съдът постанови, че Anthropic е незаконно поставен в черен списък?
Федерален съдия постанови, че определянето от Пентагона на Anthropic като риск за веригата за доставки е противоконституционно, произволно и своенравно. Спорът последва отказа на Anthropic да премахне ограниченията, включващи масово наблюдение на американци и смъртоносни автономни оръжия без човешки надзор. Решението може да се превърне във важна отправна точка в бъдещи спорове относно това дали правителствата могат да санкционират компании за изкуствен интелект за поддържане на собствените им ограничения за безопасност.
Защо a16z инвестира 1,1 милиарда долара в инфраструктура с изкуствен интелект?
Андреесен Хоровиц създаде своя фонд „Машинна ера“ на стойност 1,1 милиарда долара, за да инвестира във физическите системи, необходими за мащабиране на изкуствения интелект. Фокусът му включва чипове, памет, мрежи, съхранение, центрове за данни, роботика и домашен хардуер за изкуствен интелект. Фондът отразява по-широка тема на новините за изкуствения интелект: бъдещият напредък може да зависи както от захранването, охлаждането, пропускателната способност и изчислителната инфраструктура, така и от подобренията в софтуерните модели.
Как Google AI Overviews променя традиционните резултати от търсенето?
Google автоматично разширява AI Overviews за някои търсения, като поставя по-пълен отговор, генериран от изкуствен интелект, и интерфейс „Попитай каквото и да е“ преди традиционните уеб резултати. Това означава, че обикновените връзки могат да се показват по-надолу в страницата от преди. За издателите и SEO екипите, които следят новините за изкуствен интелект, промяната повдига практически въпроси относно видимостта в търсенията, трафика от препратки и начина, по който потребителите откриват оригинални източници.