сгенерировать QR код
Открытый доступ
Только для подписчиков
Эволюция искусственного интеллекта — реальные и гипотетические социальные угрозы
https://doi.org/10.35854/2219-6242-2024-3-380-390
Аннотация
В статье рассмотрена проблема эволюции искусственного интеллекта в контексте его негативного влияния на социальные, экономические и политические аспекты жизни общества. Описаны ступени эволюции искусственного интеллекта при сравнении его с когнитивными способностями человека, спектром выполняемых задач и способности искусственного интеллекта к неконтролируемому самообучению. Раскрыты общие проблемы применения искусственного интеллекта в замещении рабочих мест, манипуляции общественным мнением и обучения искусственного интеллекта на некорректном массиве исторических данных. На примере популярной языковой нейросети ChatGPT проведен анализ развития искусственного интеллекта, демонстрирующий теоретическую возможность эволюции до сверхинтеллекта и вероятных рисков, связанных с этим явлением.
Об авторе
М. А. Ри
Санкт-Петербургский университет технологий управления и экономики
Россия
Россия
Максим Алексеевич Ри, аспирант
190020, Санкт-Петербург, Лермонтовский пр., д. 44а
Список литературы
1. О развитии искусственного интеллекта в Российской Федерации: указ Президента РФ от 10 октября 2019 г. № 490 // Президент России: офиц. сайт. URL: http://www.kremlin.ru/acts/bank/44731 (дата обращения: 22.05.2024).
2. Shaji George A., Hovan George A. S. Beyond human intelligence: Exploring the advancements and implications of ANI, AGI, and ASI. Lucknow: Book Rivers, 2023. 146 p.
3. Frey C. B., Osborne M. A. The future of employment: How susceptible are jobs to computerisation? // Technological Forecasting and Social Change. 2017. Vol. 114. P. 254–280. DOI: 10.1016/j.techfore.2016.08.019
4. Конюх В. Л. История робототехники // Основы робототехники: учеб. пособие. Ростов н/Д: Феникс, 2008. С. 21–28.
5. Brynjolfsson E., McAfee A. The second machine age: Work, progress, and prosperity in a time of brilliant technologies. New York; London: W. W. Norton & Company, 2014. 306 p.
6. Computational propaganda: Political parties, politicians, and political manipulation on social media / eds. S. C. Woolley, P. N. Howard. Oxford: Oxford University Press, 2018. 288 p.
7. Solon B., Moritz H., Arvind N. Fairness and machine learning: Limitations and opportunities. Cambridge, MA: The MIT Press, 2023. 340 p.
8. Vaswani A., Shazeer N., Parmar N., et al. Attention is all you need // Proceedings 31st International conference on neural information processing systems (NIPS’17). (Long Beach, CA, December 4-9, 2017). Red Hook, NY: Curran Associates Inc., 2017. P. 5998–6008. URL: https://proceedings.neurips.cc/paper_files/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf (дата обращения: 22.05.2024).
9. Language models are few-shot learners / T. B. Brown, B. Mann, N. Ryder, et al. // NIPS ‘20: Proceedings of the 34th International conference on neural information processing systems (NIPS’20). (Vancouver, BC, December 6–12, 2020). Red Hook, NY: Curran Associates Inc., 2020. P. 1877–1901. URL: https://proceedings.neurips.cc/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf (дата обращения: 22.05.2024).
10. Narang S., Chowdhery A. Pathways language model (PaLM): Scaling to 540 billion parameters for breakthrough performance // Google Research. Apr. 04. 2022. URL: https://research.google/blog/pathways-language-model-palm-scaling-to-540-billionparameters-for-breakthrough-performance/ (дата обращения: 22.05.2024).
11. Murray S. The technological singularity. Cambridge, MA: The MIT Press, 2015. 272 p.
12. Brian C. The alignment problem: Machine learning and human values. New York; London: W. W. Norton & Company, 2020. 356 p.
13. Злобин А. Маск и Возняк призвали приостановить обучение систем ИИ из-за «риска для общества» // Forbes. 2023. 29 марта. URL: https://www.forbes.ru/tekhnologii/486841-mask-i-voznak-prizvali-priostanovit-obucenie-sistem-ii-iz-za-riska-dla-obsestva (дата обращения: 22.05.2024).
14. Manyika J., Chui M., Miremadi M., et al. A future that works: Automation, employment, and productivity. New York, NY: McKinsey Global Institute, 2017. 148 p. URL: https://www.mckinsey.com/~/media/mckinsey/featured%20insights/digital%20disruption/harnessing%20automation%20for%20a%20future%20that%20works/mgi-a-future-thatworks-full-report-updated.pdf (дата обращения: 22.05.2024).
Рецензия
Для цитирования:
Ри М.А. Эволюция искусственного интеллекта — реальные и гипотетические социальные угрозы. Социология и право. 2024;16(3):380-390. https://doi.org/10.35854/2219-6242-2024-3-380-390
For citation:
Ri M.A. Evolution of artificial intelligence — real and hypothetical social threats. Sociology and Law. 2024;16(3):380-390. (In Russ.) https://doi.org/10.35854/2219-6242-2024-3-380-390
Просмотров:
80
Послать статью по эл. почте 