🧒 OpenAI въвежда прогнозиране на възрастта в ChatGPT ↗
OpenAI започна да внедрява слой за „предсказване на възрастта“ в ChatGPT - тиха система, която се опитва да прецени кога даден акаунт вероятно принадлежи на непълнолетен, след което задейства допълнителни предпазни парапети. Ако смята, че сте под 18 години, автоматично стеснява достъпа до по-чувствително съдържание.
Когато познае погрешно (което... понякога се случва), решението е проверка на самоличността чрез Persona, използвайки поток, базиран на селфита. Това се вписва и в по-широки промени в платформата, като експерименти с „режим за възрастни“ и движения за монетизация, които, честно казано, се усещат като няколко чинии, въртящи се едновременно.
🏦 Великобритания се нуждае от „стрес тестове с изкуствен интелект“ за финансови услуги, казват законодателите ↗
Британските законодатели по същество казват: спрете да се хладете по отношение на изкуствения интелект във финансите. Аргументът им е, че регулаторите и правителството трябва да тестват системите с изкуствен интелект под натиск, подобно на това как банките се подлагат на стрес тестове - защото „опа“ в паричния свят има тенденция да се разпространява бързо.
Проблемът е от типа проблеми, които се проявяват само в голям мащаб: пристрастия, каскади от грешки, модели на измами, обратна връзка. Все едно да оставиш малко дете да кара автобус, защото пътят е прав... докато изведнъж не стане прав.
🏛️ Назначени са шампиони по изкуствен интелект, които да помогнат на Сити безопасно да се възползва от възможностите, свързани с изкуствения интелект ↗
Правителството на Обединеното кралство назначи двама „шампиони по изкуствен интелект“, които да помогнат за ускоряване на внедряването на изкуствен интелект във финансовите услуги - с обичайните обещания за растеж, производителност, инвестиции и всички тези добре звучащи машини.
Забележителното е балансирането: енергията „движи се бързо“ с надпис „безопасно“ отгоре. Успокояващо... или леко комично, в зависимост от настроението ви през деня.
💰 Humans&, „човекоцентричен“ стартъп за изкуствен интелект, основан от възпитаници на Anthropic, xAI и Google, набра 480 милиона долара начален капитал ↗
Humans& пристигнаха с огромен набор от средства и екип, който се чете като „стартов пакет за AI лаборатория“ - хора от големи магазини за модели и големи технологични компании. Заявената цел е по-малко чатботове и повече „помагане на хората да се координират и сътрудничат“ със системи, които могат да работят както с хора, така и с агенти с изкуствен интелект.
Това са много пари за нещо, което е все още в ранен етап, което е или знак, че пазарът е уверен... или че всички ние колективно купуваме фойерверки, защото ни харесва звукът. Честно казано, може да е и двете.
⚖️ Стартъпът за правен изкуствен интелект Ivo набира 55 милиона долара в последния кръг на финансиране ↗
Стартъп компанията за правни услуги, занимаваща се с изкуствен интелект, Ivo привлече ново финансиране, за да изгради платформата си и да увеличи продажбите, възползвайки се от вълната от адвокатски кантори и вътрешни правни екипи, автоматизиращи работни процеси, изискващи много документи.
Тази категория продължава да печели, защото стойността е ясна и семпла: по-малко часове, прекарани в повтаряща се работа с документи, по-малко неща, които се изплъзват от вниманието. Не е бляскаво, но е много, много достъпно.
🧠 Тайванската Inventec твърди, че решението за чипа H200 на Nvidia „изглежда е заседнало“ от страна на Китай ↗
Тайвански производител на сървъри заяви, че въпросът за продажбата на чипа H200 AI от Nvidia в Китай изглежда „заседнал“ - което предполага, че пречката не са само външните правила, но и одобренията от страна на Китай или вътрешната динамика.
Това е непривлекателната реалност на хардуера с изкуствен интелект: всички говорят за модели и агенти, но цялото бъдеще може да зависи от няколко пречки, разрешителни и политика на веригата за доставки. Все едно да планираш изстрелване на ракета... и след това да осъзнаеш, че си забравил ключа за горивния клапан.
ЧЗВ
Какво е прогнозата на OpenAI за възрастта в ChatGPT и какво се променя, ако бъдете маркирани като под 18 години?
OpenAI въведе нископрофилен слой за „прогнозиране на възрастта“, който се опитва да прецени дали даден акаунт вероятно принадлежи на непълнолетен. Ако системата заключи, че сте под 18 години, ChatGPT автоматично прилага допълнителни предпазни мерки. На практика това обикновено означава по-строги ограничения за съдържание, считано за по-чувствително. Целта е да се намали рискът, без да се принуждава всеки потребител да декларира възрастта си предварително.
Какво се случва, ако прогнозата за възрастта на ChatGPT е грешна?
Ако прогнозата за възрастта в ChatGPT се провали и етикетира възрастен като под 18 години, посоченото решение е проверка на самоличността. В това внедряване тази проверка се обработва чрез Persona, използвайки поток, базиран на селфита. След проверката акаунтът може да се върне към нормален достъп, вместо да остане заключен зад по-строги предпазни мерки. Това е компромис: по-малко рискови крайни случаи, с допълнително напрежение, когато системата предположи грешно.
Как се вписва проверката на селфита от Persona в подхода за безопасност на OpenAI?
Персоната служи като механизъм за разрешаване на несигурността, свързана с възрастта, когато системните заключения се третират като ненадеждни. Процесът на проверка на самоличността, базиран на селфита, се позиционира като коригираща стъпка след неправилна прогноза за възрастта. На много платформи този вид стъпка се използва за балансиране на безопасността и достъпа, без да се блокират трайно легитимни потребители. Това също така насочва към по-строго прилагане на ниво акаунт, а не само към филтриране на ниво подкана.
Защо OpenAI добавя възрастови ограничения сега и какво общо има това с „режима за възрастни“?
Тази актуализация идва успоредно с по-широки промени в платформата, включително експерименти с „режим за възрастни“ и мерки за монетизация, споменати в същата дискусия. Прогнозирането на възрастта в ChatGPT ефективно се превръща в превключвател, който определя кой получава по-строги настройки по подразбиране спрямо по-широк достъп. Това е полезно за платформа, която тества различни преживявания за различни аудитории. Може също така да ограничи излагането на по-рисково съдържание, като същевременно позволи разширяване другаде.
Какво представляват „стрес тестовете с изкуствен интелект“ за финансовите услуги в Обединеното кралство и защо законодателите ги искат?
Британските законодатели призовават за „стрес тестове за изкуствен интелект“, които третират системите с изкуствен интелект по-скоро като банките: тества ги под натиск, преди проблемите да се разпространят. Опасението е, че пристрастията, каскадите от грешки, моделите на измами и обратната връзка могат да станат видими само в голям мащаб. Във финансите малките провали могат да се разпространят бързо чрез тясно взаимосвързани системи. Стрес тестовете са предназначени да разкрият слабостите по-рано, преди реалните пари и реалните клиенти да бъдат засегнати.
Кои са „шампионите на ИИ“ за града в Обединеното кралство и какво трябва да правят?
Правителството на Обединеното кралство назначи двама „шампиони по изкуствен интелект“, които да помогнат за ускоряване на внедряването на изкуствен интелект във финансовите услуги. Тяхната роля е формулирана като подпомагане на града да се възползва от възможностите, свързани с изкуствения интелект, като същевременно го прави „безопасно“. На практика това се тълкува като координация и застъпничество: насърчаване на внедряването, подкрепа на най-добрите практики и съгласуване на заинтересованите страни. Това сигнализира, че правителството иска по-бързо внедряване, с видима защитна обвивка около него.