Объркани ли сте относно изкуствения общ интелект или AGI? Това е нещото, от което OpenAI е обсебена. Идеята на пръв поглед изглежда се състои в това технологията да съществува по начин, който „да е от полза за цялото човечество“. В крайна сметка тази цел трябва да се вземе на сериозно, тъй като компанията току-що набра 6,6 милиарда долара, за да се доближи до тази цел.

Но ако все още се чудите какво, по дяволите, е AGI, не сте сами.

По време на дискусия в четвъртък на срещата на върха на Credo AI за отговорно лидерство в областта на изкуствения интелект Фей-Фей Ли, световноизвестен изследовател, често наричанa „кръстницата на изкуствения интелект“, заяви, че също не знае какво е AGI.

В други моменти Ли обсъди ролята си в раждането на съвременния AI, как обществото трябва да се защити от моделите на усъвършенствания AI и защо смята, че нейният нов стартъп еднорог World Labs ще промени всичко.

Но когато я попитаха какво мисли за „сингулярността на AI“, Ли се изгуби също толкова, колкото и всички останали, предава ТechCrunch.

„Аз идвам от академичния AI и съм се обучавала по по-строгите и основани на доказателства методи, така че всъщност не знам какво означават всички тези думи“, каза Ли пред препълнената зала в Сан Франциско.

„Честно казано, аз дори не знам какво означава AGI. Както хората казват, че ще го познаеш, когато го видиш, така че не съм го видяла.

Истината е, че не прекарвам много време в мислене за тези думи, защото смятам, че има толкова много по-важни неща за вършене.“

Поне 15 служители, които са работили по въпроси, свързани с безопасността на технологията, са напуснали през последните месеци, твърди бивш изследовател на мениджмънта

Излиза ли от контрол OpenAI? Екипът за анализ на рисковете от AGI се разпада

Ако някой би могъл да знае какво е AGI, то това вероятно е Фей-Фей Ли. През 2006 г. тя създава ImageNet - първия в света голям набор от данни за обучение и сравнителен анализ на AI, който е от решаващо значение за катализирането на сегашния бум. От 2017 г. до 2018 г. тя е главен научен сътрудник на AI/ML в Google Cloud.

Днес Ли ръководи Станфордския институт за AI, ориентиран към хуманитарната страна, а нейният стартъп World Labs създава „големи модели на света“. (Този термин е почти толкова объркващ, колкото и AGI.)

Главният изпълнителен директор на OpenAI Сам Алтман се опита да дефинира AGI в профил в The New Yorker миналата година. Той го описва като „еквивалент на средностатистически човек, който бихте могли да наемете като колега“.

В същото време уставът на OpenAI дефинира AGI като „високоавтономни системи, които превъзхождат хората в най-ценната работа“.

GPT-4 е най-глупавият модел, който някога ще ни се наложи да използваме, смята предприемачът

Сам Алтман: Не ми пука дали ще горим по $50 милиарда годишно. Изграждаме AGI

Очевидно тези дефиниции не са били достатъчно добри, за да може една компания с капитал от 157 милиарда долара да работи в тази посока. Затова OpenAI създаде петте нива, които вътрешно използва, за да оценява напредъка си към AGI. Първото ниво са чатботовете (като ChatGPT), след това рационалните инструменти, агентите (предполага се, че това предстои), иноваторите („AI“, който може да помага за изобретяването на неща) и последното ниво - организационното (AI, който може да върши работата на цялата организация).

На пръв поглед всичко това звучи като много повече, отколкото може да направи един средностатистически човешки сътрудник.

По-рано по време на лекцията Ли каза, че е очарована от идеята за компютърна интелигентност още от времето, когато е била младо момиче. Това я е довело до изучаването на изкуствения интелект много преди това да стане популярно. В началото на 2000-те години Ли казва, че тя и още няколко души тихомълком са полагали основите на тази област.

"През 2012 г. моят ImageNet в комбинация с AlexNet и графичните процесори - много хора наричат това раждането на съвременния AI. То беше задвижвано от три ключови съставки: големи данни, невронни мрежи и съвременни графични изчислителни процесори. И след като този момент настъпи, мисля, че животът никога не е бил същият за цялата AI област, както и за нашия свят.“

Когато бе попитана за спорния калифорнийски законопроект за изкуствения интелект SB 1047, Ли отговаря внимателно:

„Някои от вас може би знаят, че съм изразявала гласно опасенията си относно този законопроект, на който беше наложено вето, но точно сега мисля задълбочено и с голямо вълнение да гледам напред“, каза Ли. „Бях много поласкана или удостоена с честта, че губернаторът Нюсъм ме покани да участвам в следващите стъпки за SB 1047.“

Тъй като компаниите пускат по-усъвършенствани модели, търсенето на специализирани обучители, говорещи десетки езици, се увеличава

Симбиоза: Колкото повече се развива AI, толкова повече се нуждае от човека

Губернаторът на Калифорния наскоро привлече Ли, заедно с други експерти по AI, да сформира работна група, която да помогне на щата да разработи предпазни огради за внедряване на AI. Ли каза, че в тази си роля използва подход, основан на доказателства, и ще направи всичко възможно да се застъпи за академичните изследвания и финансиране. Тя обаче иска също така да гарантира, че Калифорния няма да наказва технолозите.

„Трябва наистина да разгледаме потенциалното въздействие върху хората и нашите общности, а не да прехвърляме тежестта върху самата технология. Не би имало смисъл, ако наказваме автомобилен инженер - да речем Ford или GM - ако автомобилът се използва неправилно, целенасочено или неволно, и навреди на човек.

“Само санкционирането на автомобилния инженер няма да направи автомобилите по-безопасни. Това, което трябва да направим, е да продължим да въвеждаме иновации за по-безопасни мерки, но и да подобрим регулаторната рамка - независимо дали става въпрос за предпазни колани или ограничения на скоростта - и същото важи и за изкуствения интелект.“

Въпреки че Ли съветва Калифорния по въпросите на регулирането на AI, тя ръководи и своя стартъп World Labs в Сан Франциско. Тя основава стартъп за първи път и е една от малкото жени, които ръководят AI лаборатория.

През следващите няколко години тя се вълнува, че ще доближи „пространствения интелект“ до реалността. Ли коментира, че човешкият език, на който се основават днешните големи езикови модели, вероятно се е развивал един милион години, докато зрението и възприятието вероятно са отнели 540 милиона години. Това означава, че създаването на големи модели на света е много по-сложна задача.

„Не става въпрос само за това да накараме компютрите да виждат, а наистина да обучим да разбират целия 3D свят, което аз наричам пространствен интелект.“