Великобритания тихомълком разработва нова и доста зловеща идея – система, която да „предсказва“ кой има потенциала да се превърне в убиец, пише The Guardian.

Да, звучи като сюжет от „Специален доклад“ на Стивън Спилбърг, но това е реален проект на правителството, случайно открит от правозащитната организация Statewatch.

Твърди се, че името на програмата е невинното „споделяне на данни за по-добра оценка на риска“, но оригиналното заглавие казва всичко: „Проект за предсказване на убийства“.

Как всъщност работи?

Изследователи използват алгоритми, които анализират лични данни на хиляди хора – включително жертви на престъпления – за да се опитат да идентифицират кои индивиди имат най-висок риск да извършат тежки насилствени престъпления.

Разглеждат се данните на всички, дори на тези, които не са извършили нищо лошо.

По този начин страната иска да се справи с нарастващия брой шведски младежи, наемани от местните банди за поръчкови убийства

Дания ще бори престъпността с технология за лицево разпознаване

Данните, които се използват, идват от Пробационната служба и полицията в Манчестър (преди 2015 г.), като са включени имена, рождени дати, етническа принадлежност, пол и дори номера от базата данни на полицията.

Освен това, в документи, получени чрез Закона за свобода на информацията, се вижда, че в играта влизат и „специални категории данни“, като психическо здраве, зависимости, опити за самоубийство и дори случаи на самонараняване и увреждане.

На практика критиците определят всичко това като „плашещ“ и „дистопичен“ план за действия.

София Лайл от Statewatch казва: „Този опит на Министерството на правосъдието да създаде система за предсказване на убийства е поредният пример за това колко далеч е готово да стигне правителството в желанието си да използва алгоритми за предсказване на престъпления. Това звучи като рецепта за сериозна дигитална дискриминация.“

Водещи изследователи предупреждават, че технологията ще влоши умения като емпатия и задълбочено мислене, които са от основно значение за хората

Заплашва ли все по-широката употреба на AI човешката ни същност?

Скептиците обаче не са впечатлени. По тяхно мнение системата е обречена да бъде предубедена – особено спрямо малцинствата и хората от уязвими социални групи, защото алгоритмите се захранват с данни от институции, които самите са обвинявани в структурен расизъм.

Проектът е поръчан още при управлението на премиера Риши Сунак и в момента се тестват възможностите му. Официален доклад тепърва предстои.