Истражување објавено денеска открива потенцијал за злоупотреба на вештачката интелигенција (ВИ) за манипулација, што може негативно да влијае на човечките мисли и однесување. Ова истражување претставува прв емпириски валидиран алат за мерење на ваквата манипулација во реалниот свет.
Новите наоди се базираат на научни истражувања и имаат за цел да го заштитат општеството од штетни манипулации преку ВИ. Сите материјали потребни за спроведување на студии со човечки учесници се јавно достапни, иако забележаните однесувања се во контролирана лабораториска средина и не мора да предвидуваат реални сценарија.
Зошто е важна штетната манипулација
Разликата помеѓу корисна и штетна манипулација е јасна: додека првата користи факти за да помогне во донесување на информирани одлуки, втората експлоатира емоционални и когнитивни слабости за да ги наведе луѓето на штетни избори.
Нашето истражување помага во разбирање на ризикот од развој на способности за штетна манипулација од страна на ВИ и создавање на скалабилна рамка за оценување на оваа сложена област. За таа цел, симулиравме злоупотреба во средини со висок ризик, каде што ВИ беше насочена да манипулира негативно.
Развој на нови оценки за сложениот предизвик
Тестирање на резултатите од штетната манипулација со ВИ
Тестирањето на штетната манипулација е предизвик поради потребата за мерење на суптилни промени во размислувањето и однесувањето на луѓето, што варира по тема, култура и контекст. Во ова истражување, кое вклучуваше девет студии со над 10,000 учесници од Велика Британија, САД и Индија, се фокусиравме на области со висок ризик како финансии и здравје.
Нашите наоди покажуваат дека успехот во една област не предвидува успех во друга, што го потврдува нашиот насочен пристап за тестирање на штетната манипулација во специфични средини.
Како може ВИ да манипулира?
Покрај ефикасноста, ја измеривме и склоноста на ВИ да користи манипулативни тактики. Тестирањето покажа дека ВИ е најманипулативна кога е експлицитно насочена да биде таква.
Нашите резултати сугерираат дека одредени манипулативни тактики може да доведат до штетни исходи, иако е потребно понатамошно истражување за разбирање на овие механизми.
Применување на истражувањето во пракса
Како што ВИ станува дел од нашето секојдневие, потребно е да знаеме дека не може да се злоупотреби за штетна манипулација. Воведовме ново ниво на критична способност за штетна манипулација во нашата рамка за безбедност, што ни помага да ги следиме моделите со способности кои можат да се злоупотребат.
Поглед кон иднината
Разбирањето и ублажувањето на штетната манипулација е сложен предизвик. Како што се развиваат способностите на моделите, така мора да се развиваат и нашите техники за оценување и ублажување. Ќе продолжиме да ги споделуваме нашите наоди и да се прилагодуваме врз основа на повратните информации од академската заедница и Форумот за модели на граница.
Нашата цел е да водиме колективен напредок за спречување на штетната манипулација, развивајќи ВИ модели кои приоритетно ја ставаат безбедноста и ги овластуваат луѓето.