Действительно ли ИИ может уничтожить человечество?

искусственный интеллект робот
Страх перед ИИ связан с тем, что у машин каким-то образом разовьется сознание, и они восстанут против своих создателей.

Действительно ли ИИ может уничтожить человечество?

Многие опасаются , что искусственный интеллект (ИИ) станет причиной гибели человечества, но так ли это?
В 2020 году Илон Маск сообщил в интервью New York Times, что ИИ в конечном счете превзойдет человека по умственным способностям и сможет захватить человеческую расу уже к 2025 году. Тем не менее, несмотря на столь зловещие предсказания Маска, по мнению многих специалистов в данной области, беспокоиться не о чем, по крайней мере, пока.
Страх перед ИИ во многом связан с тем, что у машин каким-то образом разовьется сознание, и они восстанут против своих создателей. Однако для этого машины должны не только обладать интеллектом, равным человеческому, но еще и уметь прогнозировать будущее и строить планы. На том этапе, на котором технологии ИИ находятся сейчас, они не обладают человеческим интеллектом и не могут планировать наперед.
По словам специалиста в области робототехники Технологического университета Джорджии Мэтью Обрайена (Matthew O’Brien), ученые еще очень далеки от столь желанного «общего ИИ» (general AI) — ИИ, полностью аналогичного человеческому разуму и обладающего самосознанием, способным решать проблемы, учиться и планировать будущее.
«Мы просто не знаем, как создать общий адаптивный интеллект, и непонятно, какого прогресса еще нужно достичь, чтобы приблизиться к этому», — сообщил Обрайен на платформе проверки фактов Metafact.
Машины работают так, как они запрограммированы, и до создания так называемого искусственного суперинтеллекта, способного действовать вопреки запрограммированному, еще очень и очень далеко. В настоящее время большинство используемых технологий ИИ считаются «узкими» или «слабыми», то есть, они могут использовать свои знания только для выполнения нескольких задач.
По мнению некоторых экспертов, ИИ не только не представляет никакой угрозы человечеству, но еще и может помочь ему лучше понять себя.
«С помощью ИИ и роботов мы можем проверять на практике теории в области сознания, эмоций, интеллекта и этики и сравнивать их с научной базой данных. То есть, мы можем использовать ИИ и роботов для того, чтобы лучше понять самих себя. В общем, я считаю, что ИИ представляет собой не угрозу, а возможность стать лучше путем лучшего понимания самих себя», — уверен профессор робототехники Университета Палермо Антонио Челла (Antonio Chella).
Тем не менее, как и любая друга технология, ИИ все-таки может нести в себе угрозу. Например, риски связаны с чрезмерной оптимизацией труда, появлением нового смертельного оружия и экологическими катастрофами, считает специалист Университета Южной Калифорнии Бен Нье (Ben Nye).
«Если ИИ специально разрабатывается для уничтожения или дестабилизации наций […] случайный или тестовый выпуск военного, вирусного ИИ легко может стать следующим Проектом Манхэттен», — сообщил Нье.
«Проект Манхэттен» — кодовое название программы США по разработке ядерного оружия, осуществление которой формально началось 13 августа 1942 года.

SECURITYLAB.RU

Источник