Илон Маск назвал вероятность, с которой ИИ уничтожит человечество
В ходе семинара Great AI Debate Илон Маск поделился своей позицией по вопросу развития современных ИИ технологий. В качестве примера предприниматель указал на тот факт, насколько по всей вероятности возможен «бунт» искусственного интеллекта. Стоит отметить, такой феномен иные эксперты отрасли считают ощутимо заниженным.
По словам миллиардера, в настоящее время возникновение технологического переворота машин, при котором ИИ-технологии обернутся против людей, составляет от 10 до 20%. Тем не менее, по его мнению, такой риск оправдан. Он утверждает, что в целях безопасности необходимо развивать ИИ таким образом, чтобы он предоставлял лишь правдивую информацию.
Ранее ученые выявили, что как только ИИ научится выдавать ложную информацию пользователям, его поведение уже не будет подлежать изменениям при помощи существующих неотлагательных мер безопасности. Издание The New York Times такое заявление «пугающей новой статистикой, охватившей Кремниевую долину». Стоит отметить, многие из руководителей в этой сфере оценивают обстановку крайне не утешающим образом— вплоть до 50%.
Роман Ямпольский, исследователь безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля, тоже считает, что Маск обоснованно указывает на факт угрозы ИИ по отношению к человечеству. По его мнению, возможность возникновения вторжения искусственным интеллектом контроля над человеческим разумом существует, только намного выше, чем утверждает шоумен, более 99%.
Комментарии
Добавление комментария
Комментарии