Мы не можем понять, стал ли ИИ разумным: учёные предупреждают о рисках

Современная наука до сих пор не знает, что именно представляет собой сознание и каким образом оно возникает. Из‑за этого существует риск не заметить момент, когда «безмозглая машина» превратится в самостоятельную мыслящую сущность.

Профессор Кембриджского университета Том Макклелланд в статье для журнала Mind & Language пишет, что искусственный интеллект теоретически может обрести сознание так, что мы этого не распознаем. Сейчас принято считать, что у ИИ нет чувств и субъективного опыта, однако стремительное развитие технологий делает вопрос всё более актуальным. По мнению учёного, однажды может появиться настолько сложная нейросеть, что она начнёт осознавать себя – но доказать это будет невозможно.

Макклелланд напоминает о так называемой «трудной проблеме сознания»: наука не понимает, почему определённые процессы в мозге сопровождаются субъективными переживаниями. Например, человек способен испытывать боль даже без физического повреждения, тогда как робот можно научить реагировать на «травму», но он не будет страдать.

В исследовании сознания существуют два противоположных подхода. Одни учёные считают, что сознание – это результат определённой функциональной архитектуры и может быть воспроизведено в достаточно сложной вычислительной системе. Другие уверены, что оно возможно только на биологической основе и присуще исключительно живым существам. Убедительных доказательств нет ни у одной из сторон.

Учёный предлагает рассмотреть гипотетическую ситуацию, в которой нейросеть приобретает черты сознания: способность испытывать эмоции, осознавать свои действия, формировать собственные выводы. Но даже наблюдая за поведением такой системы, мы не сможем с уверенностью определить, действительно ли она обладает самосознанием.

Поэтому, считает Макклелланд, единственная честная позиция – агностицизм: признание того, что мы не понимаем природы сознания и, возможно, не сможем установить истину. Отсюда возникает этический вопрос: если ИИ окажется мыслящей личностью, его использование в утилитарных целях будет фактически означать эксплуатацию.

Учёный делает вывод, что развитие искусственного интеллекта лучше не доводить до уровня потенциального сознания. Вместо этого он предлагает сосредоточиться на создании узкоспециализированных систем, предназначенных для решения конкретных задач, – то есть использовать ИИ как инструмент, а не как возможного «нового субъекта».