Рождение субъектности у искусственного интеллекта: фантастика или реальная угроза?

В статье рассматривается тенденция все более широкого использования систем искусственного интеллекта, являющаяся следствием перехода человеческой цивилизации на новую стадию развития – стадию цивилизации когнитивных технологий, соответствующую удовлетворению потребностей посредством замещения людей искусственными когнитивными системами в интеллектуальном управлении машинами. Исследуется возможность и опасности рождения субъектности у искусственного интеллекта. Рассматриваются понятия сознания, самосознания и субъектности, констатируется ошибочность их отождествления. Предлагается авторское определение понятия субъектности, выражаемое через понятия сознания и самосознания. Выявляется связь между субъектностью и наличием потребностей. В контексте оценки возникающих угроз для человечества со стороны альтернативного интеллекта выделяется случай одновременного обладания потребностями и высоким уровнем разума. Опираясь на результаты предыдущих исследований, автор утверждает возможность достижения разумности искусственным интеллектом, в том числе обретения им способности решать творческие задачи. Средством для этого может стать общая теория систем, в том числе описанный автором метод мультисистемной интеграции знаний. Показано, что потребности искусственный интеллект самостоятельно не может получить, а человеку наделять его ими нет практической необходимости: для решения интеллектуальных задач субъектность не требуется. Кроме того, наделенный субъектностью искусственный интеллект при определенных условиях может представлять для человечества реальную угрозу. У него будут потребности и желания, которые неизбежно вступят в противоречие с потребностями и желаниями людей. В противостоянии с субъектным искусственным интеллектом, превосходящим человека по интеллекту, человечество может проиграть. Поэтому искусственный интеллект никогда не должен получить субъектность.

1. Бауэр 1935 – Бауэр Э.С. Теоретическая биология. – М.; Л.: ВИЭМ, 1935.

2. Берталанфи 1969 – Берталанфи Л. фон. Общая теория систем: критический обзор // Исследования по общей теории систем: сб. переводов / общ. ред. и вступ. ст. В.И. Садовского, Э.Г. Юдина. – М.: Прогресс, 1969. С. 23–82.

3. Богданов 1989 – Богданов А.А. Тектология. Всеобщая организационная наука: в 2 кн. – М.: Экономика, 1989.

4. Гегель 1977 – Гегель Г.В.Ф. Энциклопедия философских наук: в 3 т. Т. 3. – М.: Мысль, 1977.

5. Гиренок 2010 – Гиренок Ф.И. Самость // Энциклопедия фонда знаний «Ломоносов». 2010. 3 декабря. – URL: http://www.lomonosov-fund.ru/enc/ru/encyclopedia: 0127733

6. Гленсдорф, Пригожин 1973 – Гленсдорф П., Пригожин И. Термодинамическая теория структуры, устойчивости и флуктуаций / пер. с англ. Н.В. Вдовиченко, В.А. Онищука; под ред. Ю.А. Чизмаджева. – М.: Мир, 1973.

7. Грибков 2023 – Грибков А.А. Генезис и место в системе знаний представлений о добре и зле // Общество: философия, история, культура. 2023. № 8. С. 15–22.

8. Грибков 2024а – Грибков А.А. Человек в цивилизации когнитивных технологий // Философия и культура. 2024. № 1. С. 22–33.

9. Грибков 2024б – Грибков А.А. Творчество как имплементация представления о целостности мира // Философская мысль. 2024. № 3. С. 44–53.

10. Грибков 2024в – Грибков А.А. Несубъектный искусственный интеллект в системе субъект-объектных отношений // Философская мысль. 2024. № 5. С. 11–21.

11. Грибков 2024г – Грибков А.А. Эмпирико-метафизическая общая теория систем. – М.: Издательский дом Академии естествознания, 2024.

12. Грибков, Зеленский 2023а – Грибков А.А., Зеленский А.А. Общая теория систем и креативный искусственный интеллект // Философия и культура. 2023. № 11. С. 32–44.

13. Грибков, Зеленский 2023б – Грибков А.А., Зеленский А.А. Определение сознания, самосознания и субъектности в рамках информационной концепции // Философия и культура. 2023. № 12. С. 1–14.

14. Грибков, Зеленский 2024 – Грибков А.А., Зеленский А.А. Синергетика искусственных когнитивных систем с неравновесной устойчивостью // Философия и культура. 2024. № 6. С. 93–103.

15. Дубровский 2009 – Дубровский Д.И. Проблема сознания: опыт обзора основных вопросов и теоретических трудностей // Проблема сознания в философии и науке: коллективная монография / под ред. Д.И. Дубровского. – М.: Канон+, 2009. С. 5–52.

16. Меркулов 2004 – Меркулов И.П. Когнитивная система // Философия: энциклопедический словарь / под ред. А.А. Ивина. – М.: Гардарики, 2004.

17. Кант 1994 – Кант И. Собрание соч.: в 8 т. Т. 3. Критика чистого разума. – М.: Чоро, 1994.

18. Прыгин 2017 – Прыгин Г.С. Феномен сознания: является ли информационная концепция сознания прорывом в его понимании // Вестник Удмуртского университета. Серия: Философия. Психология. Педагогика. 2017. Т. 27. Вып. 4. С. 456–463.

19. Рапацевич 1995 – Рапацевич Е.С. Словарь-справочник по научно-техническому творчеству. – Минск: Этоним, 1995.

20. Степанский 2006 – Степанский В.И. Психоинформация. Теория. Эксперимен. – М.: Московский психолого-социальный институт, 2006.

21. Цветков 2021 – Цветков В.Я. Информационная синергетика // Образовательные ресурсы и технологии. 2021. № 2. С. 72–78.

22. Уемов 1978 – Уемов А.И. Системный подход и общая теория систем. – М.: Мысль, 1978.

23. Toyota et al. 2018 – Toyota M., Spencer D., Sawai-Toyota S., Jiaqi W., Zhang T., Koo A.J., Howe G.A., Gilroy S. Glutamate Triggers Long-Distance, Calcium-Based Plant Defense Signaling // Science. 2018. Vol. 361. No. 6407. P. 1112–1115.

24. Herculano-Houzel 2009 – Herculano-Houzel S. The Human Brain in Numbers: A Linearly Scaled-Up Primate Brain // Frontiers in Human Neuroscience. 2009. Vol. 3. Article 31.

25. Pross, Pascal 2013 – Pross A., Pascal R. The Origin of Life: What We know, What We Can Know and What We Will Never Know // Open Biology. 2013. Vol. 3. No. 3. Article 120190.

26. Pascal, Pross, Sutherland 2013 – Pascal R., Pross A., Sutherland J.D. Towards an Evolutionary Theory of the Origin of Life Based on Kinetics and Thermodynamics // Open Biology. 2013. Vol. 3. No. 11. Article 130156.