Шумът около развитието на изкуствения интелект е толкова силен напоследък, че понякога е трудно да се направи разлика между реалната стойност и маркетинговите обещания. Ако досега сте игнорирали темата за автономните AI агенти, може би вече е време да ѝ обърнете по-специално внимание, защото тази технология има потенциала да надхвърли и най-големите очаквания, пише Fast Company.

Досега генеративният AI работеше само под строг човешки надзор - обучен върху огромни бази от данни, той може да генерира съдържание въз основа на изготвени от нас подкани. Можем да го сравним с дете, което имитира звуци и думи, без напълно да осъзнава тяхното значение.

Новото поколение автономни AI агенти обаче доста се различава от всичко, което познаваме досега. Вместо просто да обработват заявки и да генерират отговори, тези нови модели могат да взаимодействат с външната среда, да вземат самостоятелни решения, да анализират нова информация и дори да предприемат действия.

Това вече е много повече от модел, който просто имитира човешката реч - тук говорим за AI, който може да намира нови данни, да ги обработва и да действа въз основа на тях, без да е необходимо предварително обучение.

Компанията представя нова рамка за управление на изкуствения интелект, която ограничава достъпа до най-мощните модели

Meta смята да прекрати разработката на AGI, ако рискът надвишава ползите

На теория всичко звучи страхотно. По-малка нужда от човешка намеса, огромен мащаб, изкуствен интелект, който самостоятелно изпълнява задачи. Но тук идва и голямото предизвикателство - човекът постепенно излиза от уравнението.

Можем да си представим ситуацията по следния начин: досега AI приличаше повече на прохождащо дете. Сега вече му даваме ключовете за колата, включваме музиката на макс и му позволяваме да кара с бясна скорост.

Автономността означава и по-малък контрол върху допусканите грешки. Тези AI агенти имат способността да вземат решения - което означава, че могат да вземат и грешни такива. А когато AI започне да действа самостоятелно, без предварително зададени граници, въпросът не е дали ще бъдат допускани грешки, а кога и какви ще са последствията.

Две трети от участниците в допитването на Евробарометър са на мнение, че науката и технологиите правят живота по-лесен, здравословен и удобен

38% от европейците вярват, че изкуственият интелект е необходим за науката

Какво може да се обърка?

За разлика от човешките грешки, които са ограничени в мащаб, задаването на една погрешна инструкция, изпълнена от AI, може да бъде разпространено мигновено, да бъде копирано до безкрай и да създаде огромен дефект.

AI агентите също така се превръщат в перфектната мишена за хакери. Ако технология от този тип попадне в грешните ръце, последствията могат да бъдат огромни.

Ново изследване разкрива каква е връзката между квалификациите и приемането на новите технологии

Магията на изкуствения интелект: Защо тези с по-малко знания са по-склонни да го използват

Естествено, последиците няма да унищожат света, но могат да бъдат достатъчно сериозни в правен и бизнес контекст. Все повече компании разчитат на AI за подбор на персонал, интервюта, оценка на представянето и дори уволнение. Дори най-малката грешка в алгоритъма може да доведе до несправедливи решения и да въвлече компаниите в съдебни битки, особено след като все повече държави приемат закони, които санкционират дискриминационното използване на изкуствен интелект.

Няма спор, че автономните AI агенти могат да увеличат продуктивността, като автоматизират рутинни задачи и освободят хората за по-креативна работа, но не бива да забравяме, че рисковете са също толкова реални.