OpenAI ще спре част от работата по AI модела Astra поради опасения за сигурността ↗
OpenAI спира вътрешната си работа по Astra, която не отговаря на по-строгите изисквания за сигурност, след като оценките показват, че киберспособностите ѝ може да са преминали „критичен“ праг. Според съобщенията, агентът би могъл да открива и използва уязвимости без човешка намеса или да извършва атаки от цел на високо ниво. Да... това е доста сериозна граница за преминаване.
Компанията затяга изолираното тестване, достъпа до мрежата и инструментите, защитата въз основа на теглото на модела, криптирането и мониторинга. Astra не е участвала в по-ранния инцидент с Hugging Face на OpenAI, но по-широкият модел на все по-автономни агенти прави ограничаването много по-голям проблем. (Източник: The Guardian)
Apple твърди, че потребителите на Mac в Китай могат да се свържат с услугата Qwen AI на Alibaba ↗
Потребителите на Mac в континентален Китай, които отговарят на условията, вече могат да свържат Qwen на Alibaba със Siri и инструментите за писане на Apple. Това означава по-подробни отговори плюс анализ на документи и изображения, наред с генериране на текст и изображения от описания.
Честно казано, това е интересен брак - Apple получава локално съвместим път към по-силни функции на изкуствен интелект в силно конкурентен пазар на персонални компютри, докато Alibaba вгражда Qwen много по-дълбоко в екосистемата на някой друг. Apple казва, че материалът, изпратен чрез разширението, не може да бъде използван от Alibaba за обучение на нейните модели. (Източник: Ройтерс)
Google DeepMind навлиза в нова ера, след като съоснователят Демис Хасабис променя ролята си в областта на изкуствения интелект ↗
Демис Хасабис се отказва от ежедневното ръководство на DeepMind, като става председател, като същевременно поема и ролята на главен учен в Alphabet. Дългогодишният му колега Корай Кавукджуоглу поема оперативен контрол като старши вицепрезидент, а не като главен изпълнителен директор - едва доловима промяна в длъжността, която говори доста.
Преструктурирането се случва успоредно с други големи напускания на изследователи и въпроси дали DeepMind става по-малко независим и по-тясно абсорбиран от комерсиалната машина на Google с изкуствен интелект. Google оспорва, че промяната е свързана с конкурентното представяне на Gemini. (Източник: The Guardian)
Нарастващ брой деца в Обединеното кралство съобщават, че са виждали откровени „дълбоки фалшиви“ снимки на себе си ↗
Докладите от деца от Обединеното кралство за фалшиви или манипулирани изображения на самите тях са се увеличили рязко. Report Remove е получил 420 доклада само за шест месеца, което вече надхвърля предишния си пълен годишен общ брой от 397. Инструментите за „голо обличане“, задвижвани от изкуствен интелект, правят проблема ужасно лесен за мащабиране.
Фондацията „Internet Watch“ твърди, че много от съобщените манипулирани изображения са били достатъчно сериозни, за да преминат прага на материали за сексуално насилие над деца. Някои жертви са били обект и на сексуално изнудване, превръщайки генерирано от изкуствен интелект изображение в много осезаемо оръжие. (Източник: The Guardian)
Проучване показва, че функциите на изкуствения интелект изпреварват бизнес стойността ↗
Компаниите за корпоративен софтуер разработват функции с изкуствен интелект, но клиентите не винаги ги използват. В проучване сред над 260 вертикални софтуерни компании, 51% казват, че по-малко от една четвърт от клиентите им използват възможностите на изкуствен интелект, които са изградили. Малко неловко след цялата тази доставка...
Пречката изглежда по-малко като възможностите на изкуствения интелект и по-скоро като интеграция, сигурност, поверителност, промени в работния процес и доказване на конкретна бизнес стойност. Един особено особен феномен е „токенмаксизирането“ - голямо потребление на изкуствен интелект, което изглежда впечатляващо на табло, без ясни доказателства, че дава по-добри резултати. (Източник: Forbes)
Изкуственият интелект променя работата по-бързо, отколкото данните могат да се справят с нея ↗
Аргументът за работните места, свързани с изкуствения интелект, става все по-заплетен, а не по-изчистен. Проучване, обхващащо повече от 21 000 американски фирми, установи, че компаниите, които най-много внедряват изкуствен интелект, са увеличили общия си брой служители с 10%, а наемането на служители на начално ниво - с 12%, докато компаниите, които внедряват по-малко интензивно, не са показали ръст на персонала.
Но други изследвания са установили натиск върху заетостта сред по-младите работници на позиции, изложени на изкуствен интелект, а икономистите предупреждават, че развиващите се компании все още могат да наемат, докато изкуственият интелект променя професиите в по-широката икономика. Така че, изкуственият интелект убива работни места и ги създава... или поне така ви карат да вярвате противоречивите набори от данни. (Източник: Fortune)
ЧЗВ
Кои са най-големите новини за изкуствения интелект в момента?
Последните новини за изкуствения интелект сочат няколко припокриващи се теми: по-силни автономни възможности, по-строг контрол на сигурността, по-дълбоки интеграции на платформи, промени в ръководството, рискове за онлайн безопасността и несигурна бизнес стойност. OpenAI затяга предпазните мерки около Astra, Apple свързва Qwen с Mac-ове в Китай, а DeepMind сменя ръководството. В същото време нарастват опасенията относно deepfake-овете, внедряването в предприятията и ефекта на изкуствения интелект върху заетостта.
Защо OpenAI спря част от работата по Astra?
Съобщава се, че OpenAI е спряла вътрешната работа на Astra, която не отговаря на по-строгите изисквания за сигурност, след като оценките показват, че кибер възможностите на модела може да са достигнали критично ниво. Опасението е, че усъвършенстван агент би могъл потенциално да открие и използва уязвимости с ограничена или никаква човешка намеса. В отговор OpenAI засилва изолираното тестване, контрола на достъпа, криптирането, мониторинга и защитите около теглата на модела.
Как Alibaba Qwen ще работи с Apple Macs в Китай?
Потребителите на Mac в континентален Китай, които отговарят на условията, могат да свържат услугата Qwen на Alibaba със Siri и инструментите за писане на Apple. Интеграцията може да поддържа по-подробни отговори, анализ на документи и изображения, както и генериране на текст или изображения от описания. За Apple споразумението осигурява локално съвместим път към по-силна функционалност на изкуствения интелект, докато Alibaba получава по-задълбочен достъп до екосистемата на Apple. Apple твърди, че предоставените материали не могат да се използват за обучение на моделите на Alibaba.
Какво означава промяната в ръководството на DeepMind за Google AI?
Демис Хасабис се оттегля от ежедневното ръководство на DeepMind, като става председател и поема ролята на главен учен в Alphabet. Корай Кавукджуоглу ще поеме оперативен контрол като старши вицепрезидент. Промяната повдигна въпроси дали DeepMind се интегрира по-тясно с по-широките търговски операции на Google в областта на изкуствения интелект, въпреки че Google оспорва предположенията, че преструктурирането е свързано с конкурентното представяне на Gemini.
Защо фалшивите данни с изкуствен интелект се превръщат в по-голям проблем за безопасността на децата?
Инструментите за манипулиране на изображения, задвижвани от изкуствен интелект, могат да улеснят създаването на реалистични, експлицитни фалшиви изображения в голям мащаб. Децата във Великобритания все по-често съобщават за манипулирани или изфабрикувани изображения на себе си, а някои случаи са достатъчно сериозни, за да отговарят на критериите за материали за сексуално насилие над деца. Тези изображения могат да бъдат използвани и за сексуално изнудване, което означава, че изфабрикуваното изображение все още може да причини значителни репутационни, емоционални и финансови вреди.
Извличат ли вече ползи от изкуствения интелект предприятията и работниците?
Последните новини за изкуствения интелект показват, че отговорът е смесен. Много софтуерни компании добавят функции на изкуствения интелект по-бързо, отколкото клиентите ги възприемат, като интеграцията, поверителността, сигурността и измеримата бизнес стойност остават основни бариери. Данните за заетостта са също толкова сложни: някои компании с интензивно внедряване на изкуствен интелект разширяват наемането на персонал, докато други изследвания сочат натиск върху по-младите работници на позиции, изложени на влиянието на изкуствения интелект. Цялостното въздействие зависи до голяма степен от индустрията, работния процес и начина, по който се внедрява изкуственият интелект.