ИИ назвали неконтролируемым - Квартира и дача
Рейс из Екатеринбурга в Египет отменилиСМИ: в Липецке слышны звуки взрывовВ США окрестили причину возникновения нефтяного пятна в Красноватом мореВ Липецке вспыхнул металлургический комбинатЛипецкий префект рассказал о пожаре на металлургическом комбинате из-за БПЛАРакетная опасность в Курской области отмененаВ Тульской области сбили 3-ий за ночь БПЛАОбитатель курганской «Рублевки» устроил стрельбу на улицеРоссиянина, избившего фельдшера скорой помощи, выслали в психбольницу64-летний москвич облился кипяточком и 6-ть дней отрешался от госпитализации
Ii nazvali nekontroliruemym 0d7eb5d.jpg

ИИ назвали неконтролируемым

Tech Xplore: ИИ станет полностью автономным, если его не контролировать

Ученый Университета Луисвилля (США) Роман Ямпольский предупредил о том, что искусственный интеллект (ИИ) может стать неконтролируемым. Об этом сообщает издание Tech Xplore.

В своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» ученый рассказал, что если человечество и дальше будет неограниченно развивать новые технологии, то потеряет над ними контроль. «Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», — отметил Ямпольский.

По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.

«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», — подчеркнул Роман Ямпольский. По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. Специалист подытожил, что люди должны иметь возможность отменить любые действия или решения ИИ.

В конце января компания AI Impacts провела опрос среди экспертов в области ИИ и заключила, что новые технологии приведут к достижениям в науке и культуре, но в то же время создадут новые угрозы. Ученые пришли к выводу, что вопросам безопасности нужно посвятить как можно больше исследований.

Мы используем cookie-файлы для наилучшего представления нашего сайта. Продолжая использовать этот сайт, вы соглашаетесь с использованием cookie-файлов.
Принять
Отказаться
Политика конфиденциальности