«Крестный отец» искусственного интеллекта заявил, что сожалеет о своем изобретении
Исследователь Джеффри Хинтон (Geoffrey Hinton), сыгравший решающую роль в разработке искусственных нейронных сетей, предупреждает о потенциальных угрозах своих разработок.
Громкое заявление Джеффри Хинтона не осталось без внимания мировых СМИ.
New York Times цитирует слова канадско-британского исследователя о том, что «часть меня сейчас сожалеет о работе моей жизни».
В 2012 году доктор Хинтон и двое его учеников из университета Торонто создали технологию, которая стала интеллектуальной основой для систем искусственного интеллекта.
В 2018 году ученый вместе с Яном Лекеном (Yann Le Cun) и Йошуа Бенджо (Yoshua Bengio) получил самую престижную награду для исследователей в области информатики — премию Тьюринга. Исследования доктора Хинтона позволили разработать такие инструменты искусственного интеллекта, как ChatGPT, Google Bard и Midjourney.
В интервью BBC ученый назвал некоторые опасности чат-ботов искусственного интеллекта «довольно страшными».
«Насколько я могу судить, сейчас они не умнее нас. Но я думаю, что скоро они могут такими стать», — отметил Хинтон.
Как отмечает New York Times, ученый озабочен опасностью массового распространения в интернете фальшивых видео, фото и статей, созданных с помощью искусственного интеллекта. Он опасается, что «обычные люди уже не могут отличить правды от фальши».
Доктор Хинтон также озабочен тем, что технологии искусственного интеллекта со временем опрокинут рынок труда и лишат его больше, чем просто «тяжелой работы».
В интервью CBS Хинтон утверждает, что системы искусственного интеллекта, способные к интеллектуальной деятельности, будут полезны для военных или экономических целей. Он беспокоится, что обычно интеллектуальные системы искусственного интеллекта могут «создавать подцели», которые не соответствуют интересам их программистов. Ученый отмечает, что «нам нужно хорошо подумать, как управлять» системами искусственного интеллекта, способными самосовершенствоваться.
Джеффри Хинтон высказался также об опасности преднамеренного применения искусственного интеллекта «плохими деятелями» для «плохих вещей».
В интервью BBC он заявил, что «худший» сценарий был бы, если бы такое государство-захватчик, как Россия, получило доступ к усовершенствованным версиям современных технологий.
Как отмечает LeMond, критика доктора Хинтона созвучна с мыслями, изложенными в открытом письме, которое в апреле этого года подписала тысяча экспертов в сфере искусственного интеллекта. Они попросили на полгода приостановить исследования, чтобы разработать правила для этого программного обеспечения, которое считается «опасным для человечества». Его подписали Йошуа Бенджо (Yoshua Bengio) и Илон Маск (Elon Musk).
Сам Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», не хотел подписывать это письмо, пока был сотрудником Google.
«Я ушел, чтобы говорить об опасности искусственного интеллекта, не учитывая, как это влияет на Google», — написал ученый в твиттере после объявления о своей отставке.
LeMond цитирует заявление главы подразделения Google, занимающегося искусственным интеллектом (Google IA), Джеффа Дина (Jeff Dean): «Мы по-прежнему привержены ответственному подходу к искусственному интеллекту. Мы постоянно учимся понимать новые риски, одновременно смело внося инновации».
Высказывая опасения о будущем разработок, во главе которых стоял, Джеффри Хинтон заявил CBS: «Я утешаю себя обычным оправданием: если бы я не сделал этого, сделал бы кто-то другой».
Кто виноват, если мотоциклисту не уступают дорогу, и это приводит к смертельной аварии? Вот что показывает практика8
Комментарии