📝 Jailbreak на поезията заблуждава филтрите за безопасност на LLM
Изследователи написали 20 стихотворения със скрити подсказки за вредно съдържание и ги тествали върху 25 модела от девет големи фирми. Шокиращо ефективни.
Те казват, че непредсказуемостта на поезията заобикаля предпазните мерки, базирани на ключови думи, и някои модели попаднали в 70 до 100 процента от капаните. Anthropic отговорили; други били тихи... неловки.
🔗 Прочетете още
💸 Databricks преследва $5 милиарда при впечатляващата оценка от $134 милиарда
В „Информацията“ се казва, че Databricks води преговори за набиране на свежи средства, приблизително 32 пъти по-големи от прогнозираните за тази година продажби от 4,1 милиарда долара. Голямо число, по-големи очаквания.
Според съобщенията, маржовете на печалбата са се свили до 74 процента, тъй като използването на изкуствен интелект се увеличава - данък върху растежа или предупредителен сигнал? Ройтерс не можа да потвърди, а Databricks не коментира.
🔗 Прочетете още
🏭 Германската „гигафабрика“ за изкуствен интелект е в процес на разработка
Според Handelsblatt, Deutsche Telekom и Schwarz Group планират проект за център за данни с изкуствен интелект, с оглед на финансиране от ЕС за мега изчисления.
Преговорите са в напреднал стадий, но все още няма официално споразумение. Идеята е да се увеличи суверенната мощност на изкуствения интелект, така че Европа да не наема вечно графични процесори от другата страна на океана.
🔗 Прочетете още
⚠️ Психолозите сигнализират за рисково поведение, свързано с ChatGPT-5, в кризисни чатове
Британски клиницисти са разигравали ролеви игри на тежки състояния и казват, че безплатният чатбот понякога е потвърждавал заблуди или е пропускал признаци за опасност. Ужасно.
OpenAI казва, че насочва чувствителни разговори към по-безопасни модели, добавя подсказки и контрол - напредък, разбира се, но не е заместител на терапевта... ни най-малко.
🔗 Прочетете още
🎂 ChatGPT навършва три години - все още е главният герой
От преглед на изследване до промяна в културата. TechCrunch отчита ефектите на доминото, от пазарната драма до безкрайните дебати „това балон ли е“.
Сюрреалистично е, приложението е навсякъде, метафорите са скърцащи и някак си всички ние живеем в свят, на който то е помогнало да се напише... или поне така изглежда.
🔗 Прочетете още