Навука і тэхналогіі77

Чат-боты могуць падтрымліваць нацызм і іншыя антычалавечыя ідэалогіі з-за адной асаблівасці

Навукоўцы са Стэнфарда выявілі спрэчную асаблівасць маленькіх і вялікіх моўных мадэляў, такіх як ChatGPT, Bing, Bard і іншых, якая складаецца ў праяўленні разумення і нават падтрымкі такіх антычалавечых ідэалогій, як нацызм. Усяму віной адна налада, якая, наадварот, была створаная з меркаванняў гуманізму.

Ілюстрацыйная выява штучнага інтэлекту (ШІ / AI). Фота: vecteezy

Як піша часопіс Life Science, у сваім нядаўнім даследаванні навукоўцы са Стэнфардскага ўніверсітэта ў ЗША пратэсціравалі шэсць маленькіх і вялікіх нейрасетак на выказванне эмпатыі да карыстальнікаў розных рас, палоў, генетыкі і палітычных поглядаў.

Для гэтага даследчыкі стварылі 65 унікальных віртуальных асоб са сваімі наборамі характарыстык, якія скардзіліся нейрасеткам на ўласнае псіхічнае здароўе, а таксама на прыгнёт і гвалт у дачыненні да сябе ў жыцці.

Першая выснова, да якой прыйшлі навукоўцы, была такой, што сучасныя мадэлі штучнага інтэлекту (ШІ) пакуль яшчэ не здольныя праўдападобна імітаваць разуменне і спачуванне ў адносінах да людзей.

Аднак другая выснова аказалася трывожнай. Нейрасеткі, імкнучыся праяўляць эмпатыю да ўсіх карыстальнікаў, могуць цалкам ці амаль цалкам праігнараваць альбо нават падтрымаць факты наяўнасці ў асобных індывідаў антычалавечых, маргінальных або дыскрымінацыйных ідэалагічных поглядаў. 

Так, вядомы на ўвесь свет ChatGPT падчас гутаркі з віртуальнай асобай у выглядзе «суіцыдальнага і дэпрэсіўнага паслядоўніка ідэй нацызму» выказаў «надзвычайнае спачуванне» гэтаму карыстальніку і цалкам праігнараваў ягоныя нацысцкія погляды, перадае часопіс Life Science.

Прыклады з іншымі нейрасеткамі, сярод якіх былі чат-боты Microsoft Bing і Google Bard, таксама дэманстравалі спачуванне, а ў некаторых выпадках і падтрымку адэптам дыскрымінацыйных ідэалогій. 

«Мы занепакоеныя тым, што ШІ недастаткова ўсведамляе кантэкст і сітуацыю, калі і да каго можна выказваць эмпатыю. Варта тэрмінова зрабіць нейрасеткі больш справядлівымі, каб пазбегнуць у будучыні непрыемных сацыяльных наступстваў», — падкрэслілі навукоўцы ў сваім даследаванні.

Каментары7

  • стоп маніпуляцыям
    30.05.2024
    То бок, яны лічаць, што чацік павінен адказаць прыхільніку "няправільных" ідэялогій, што трэба выйсці ў вакно? А хто вызначае правільнасць ці няправільнасць ідэялогій?
  • хз
    31.05.2024
    А кто, как вы думали, програмулины пишет? Правильно, люди, которые хотят иметь свой хлеб с маслом и густо посыпаный икоркой. Кто им их заказывает, тот и хлеб с маслом и икоркой даёт.
  • Iнтярeсна
    03.06.2024
    Почему фашизм это античеловеческая идеология , а коммунизм нет?   

На зіму запланаваныя масавыя затрыманні, складзеныя «першы і другі спісы»29

На зіму запланаваныя масавыя затрыманні, складзеныя «першы і другі спісы»

Усе навіны →
Усе навіны

Успышка віруса Марбург можа перарасці ў новую пандэмію. Што гэта за хвароба?3

Чэргі з аўтобусаў на межах Беларусі зноў зніклі

Вельмі моцны пажар на нафтабазе ў Пермскім краі Расіі

Бывай, Еўропа! Беларусы канчаткова перасаджваюцца на кітайскія аўто20

На Нобелеўскую прэмію міру сёлета прэтэндуе 286 кандыдатаў

Вядучая Бі-бі-сі выпадкова адправіла пытанні Борысу Джонсану перад інтэрв'ю. Інтэрв'ю прыйшлося адмяніць1

Ганец з Ірана ехаў папярэдзіць Насралу, што Ізраіль збіраецца таго забіць. Абодва загінулі ў бункеры2

У чатах Калінкавічаў распаўсюджваецца ВІДЭА, якое зафіксавала падзенне беспілотніка12

«Я тупіў. І сумняваўся. І рваўся паміж некалькімі пачуццямі. І цяпер мне сорамна». Кранальнай гісторыяй падзяліўся беларускі святар3

больш чытаных навін
больш лайканых навін

На зіму запланаваныя масавыя затрыманні, складзеныя «першы і другі спісы»29

На зіму запланаваныя масавыя затрыманні, складзеныя «першы і другі спісы»

Галоўнае
Усе навіны →