Специалистите по невроетика са разединени по въпроса дали проучване, при което се използват сканиране на мозъка и изкуствен интелект за декодиране на въображаема реч, представлява заплаха за личния живот на психично болните

Изкуственият интелект става все по-страшен. И от наглед невинните чатботове преминава на ново ниво - може да чете мислите на хората.

Това е ефектът от първия неинвазивен метод за определяне на същността на въображаемата реч. Това е възможно чрез скенер на мозъка и изкуствен интелект за декодиране на мислите на хората. Доколко обаче технологията, която засега е само средно точна, е близо до постигането на истинско четене на мисли? И как политиците могат да гарантират, че с подобни разработки няма да се злоупотребява?

Повечето съществуващи технологии за преобразуване на мисъл в реч използват мозъчни импланти, които следят активността в моторната кора на човека и предвиждат думите, които устните се опитват да формулират. За да разберат действителния смисъл на мисълта, учените Александър Хът и Джери Танг от Тексаския университет в Остин и техните колеги комбинират функционалния магнитен резонанс (fMRI) - неинвазивно средство за измерване на мозъчната активност - с алгоритми на изкуствения интелект, наречени големи езикови модели (LLM), които са в основата на инструменти като ChatGPT и са обучени да предсказват следващата дума в даден текст.

В проучване, публикувано в Nature Neuroscience на 1 май, изследователите карат трима доброволци да лежат в fMRI скенер и

записват мозъчната им активност, докато слушат 16 часа подкасти

Чрез измерване на притока на кръв през мозъците на доброволците и интегриране на тази информация с подробности за историите, които са слушали и способността на изкуствения интелект да разбере как думите се свързват помежду си, изследователите разработват кодирана карта за това как мозъкът на всеки индивид реагира на различни думи и фрази.

След това записват дейността на участниците с fMRI, докато те слушат история, представят си, че разказват история, или гледат филм, който не съдържа диалог. Използвайки комбинация от моделите, които преди това са кодирали за всеки човек, и алгоритми, които определят как едно изречение вероятно ще бъде конструирано в зависимост от други думи в него, изследователите се опитват да декодират тази нова мозъчна активност.

Пропуски и попадения

Декодерът генерирал изречения, които улавят същността на мисълта на човека. Например фразата “Още нямам шофьорска книжка” била декодирана като “Още не е започнала да се учи да шофира”. Доста точно описвал и това, което хората виждали във филмите. Но много от изреченията, които създал, били неточни.

Изследователите установили и че е лесно технологията да бъде заблудена. Когато участниците мислели за друга история, докато слушали записаната, декодерът не можел да определи думите, които чували. Също така кодираната карта била различна при отделните хора, което означава, че изследователите не са могли да създадат един декодер, който да работи при всички, пише Nature.

“Определянето на начина, по който мозъкът създава значението на езика, е изключително трудно - казва Франсиско Перейра, невролог в Националния институт за психично здраве на САЩ в Бетезда, Мериленд - Впечатляващо е да видиш как някой се справя с това.”

Зов за пробуждане

Специалистите по невроетика са раздвоени дали най-новият напредък представлява заплаха за менталната неприкосновеност на хората.

“Не призовавам към паника, но развитието на сложни неинвазивни технологии като тази, изглежда, е по-близо на хоризонта, отколкото очаквахме”, казва биоетикът Габриел Лазаро-Муньос от Харвардското медицинско училище в Бостън. “Мисля, че това е голям сигнал за пробуждане на политиците и обществеността”, добавя той.

Но Адина Роскис, философ в университета “Дартмут” в Хановер, Ню Хемпшир, казва, че технологията е твърде трудна за използване и твърде неточна, за да представлява заплаха в момента. Като за начало скенерите за ядрено-магнитен резонанс не са преносими, поради което е трудно да се сканира мозъкът на някого без неговото съдействие. Тя също така се съмнява, че би си струвало времето или разходите за обучение на декодер за даден човек с друга цел освен възстановяване на комуникационните способности. “Просто не мисля, че е време да започваме да се тревожим”, казва тя. “Има много други начини, по които правителството може да разбере какво мислим”, заявява още Роскис.

Грета Тъкюте, когнитивен невролог в Масачузетския технологичен институт в Кеймбридж, намира за окуражаващ факта, че системата за декодиране не може да се прилага при всички хора и че хората лесно могат да я измамят, като мислят за други неща. “Това е хубава демонстрация на това колко много свобода имаме в действителност”, казва тя.

Действайте предпазливо

Въпреки това Роскис казва, че дори ако декодерът не работи добре, могат да възникнат проблеми, ако адвокатите или съдилищата го използват, без да разбират научните му ограничения. Например в настоящото проучване фразата “Просто изскочих от колата” беше декодирана като “Трябваше да я избутам от колата”.

“Разликите са достатъчно големи, за да могат да имат огромно значение при съдебни дела. Страхувам се, че те ще имат възможност да използват тези неща, не както трябва”, казва тя.

“Полиграфът не е точен, но има своите негативни последици. Мозъкът на никого не бива да бъде разкодиран без неговото съгласие”, казва Танг. Той и Хът призовават политиците да се заемат активно с въпроса как технологиите за четене на мисли могат и не могат да се използват законно.

Лазаро-Муньос казва, че това политическо действие може да бъде аналогично на закон от 2008 г. в САЩ, който не позволява на застрахователите и работодателите да използват генетичната информация на хората по дискриминационен начин. Той също така се притеснява за последиците от декодера за хора със заболявания като обсесивно-компулсивно разстройство, които могат да изпитат нежелани, натрапчиви мисли за нанасяне на вреда на хора, които никога не биха осъществили.

Перейра смята, че въпросът за точността на декодерите е отворен, както и дали те биха могли да станат универсални, вместо да бъдат специфични за отделния човек. “Това зависи от това колко специфични са хората”, казва той. Въпреки че декодерът може да стане добър в предсказването на следващата дума от поредица, той може да се затрудни в тълкуването на метафори или сарказъм.