Навука і тэхналогіі11

Openal, Microsoft і Amazon дамовіліся абараняць чалавецтва ад магутных ШІ-сістэм

Верагоднасць «уцёкаў» нейрасеткі ад чалавека расце. Гэта першае маштабнае пагадненне па бяспецы штучнага інтэлекту.

Ілюстрацыйнае фота «Наша Ніва»

OpenAI, Microsoft, Amazon і яшчэ 13 буйных кампаній, якія займаюцца распрацоўкамі ў сферы штучнага інтэлекту, падпісалі маштабнае пагадненне аб бяспецы.

Дамова прадугледжвае, што кампаніі распрацуюць спецыяльныя пратаколы бяспекі, якія дазволяць не выкарыстоўваць штучны інтэлект у небяспечных для чалавецтва або злачынных мэтах. Кампаніі таксама павінны будуць растлумачыць, як яны збіраюцца ацэньваць рызыкі і якія пастановы будуць прымаць у тых ці іншых сітуацыях, паведамляе брытанскі ўрад.

Таксама падпісанты пагаднення вызначаць «чырвоныя лініі», пры перасячэнні якіх распрацоўкі будуць прыпыняцца, а праекты — адключацца. Вызначыць гэтыя «чырвоныя лініі» дапамогуць урады краін.

У ліку патэнцыйных рызык называюць аўтаматызаваныя кібератакі і пагрозу стварэння біялагічнай зброі з дапамогай ШІ. Для такіх выпадкаў кампаніі павінны будуць прадугледзець» аварыйныя выключальнікі», актывацыя якіх прыпыніць распрацоўкі.

Пагадненне было падпісана ў ходзе Саміту па ШІ ў Сеуле. Акрамя таго, на канферэнцыі кіраўнік OpenAI Сэм Альтман анансаваў выхад GPT-5. Падрабязнасцяў ён не раскрыў, аднак намякнуў, што новая версія ШІ будзе значна больш магутнай за папярэднюю — на слайдзе, які паказаў Альтман, GPT-5 прадстаўлена ў відэа вялізнага кіта, тады як GPT-4 намаляваная касаткай. Чакаецца, што сістэма будзе запушчана ў найбліжэйшыя месяцы.

Эксперты і карыстальнікі раней выказвалі меркаванне, што з выхадам GPT-5 верагоднасць «уцёкаў» ШІ з-пад чалавечага кантролю ўзрасце да 22%.

Каментары1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)

Іспанія чацверты раз у гісторыі выйграла Еўра — і гэта рэкорд ВІДЭА1

Іспанія чацверты раз у гісторыі выйграла Еўра — і гэта рэкорд ВІДЭА

Усе навіны →
Усе навіны

«Генерал-шпіц Умка пад кодавым іменем Беленькі». Найлепшыя твіты тыдня9

У Мінску на дзяўчыну, якая вярталася з пляжу, упала дрэва. Яна загінула3

Чэшка Барбара Крэйчыкава перамагла на Уімблдоне-2024

Лукашэнка заявіў пра «ліквідацыю напружанасці на мяжы з Украінай» і выступіў з прымірэнчымі заявамі: «Трэба дамаўляцца»28

Ураган змёў кемпінг на Віліі, паведамляюць пра загінулага3

У Мінску шторм вырываў дрэвы і руйнаваў рэкламныя шчыты ФОТЫ і ВІДЭА15

Па Беларусі коціцца непагадзь, моцныя вятры і залевы ФОТЫ і ВІДЭА2

У мінчука скралі рэчы, пакуль ён купаўся ў Цнянскім вадасховішчы

«Каханне ўсяго майго жыцця». Арына Сабаленка пацвердзіла свае адносіны з бразільскім бізнэсменам16

больш чытаных навін
больш лайканых навін

Іспанія чацверты раз у гісторыі выйграла Еўра — і гэта рэкорд ВІДЭА1

Іспанія чацверты раз у гісторыі выйграла Еўра — і гэта рэкорд ВІДЭА

Галоўнае
Усе навіны →