Critical Reflections on Technological Singularity: Revisiting Ray Kurzweil’s Predictions

Authors

DOI:

https://doi.org/10.18256/2238-0604.2025.v21i3.5275

Keywords:

Technological Singularity; Generative Artificial Intelligence; Capacity-building; Ethics.

Abstract

Ray Kurzweil’s work “The Singularity Is Nearer”, which unveils the exponential acceleration of technological development toward a transformative singularity, has gained renewed relevance with the advent of Generative Artificial Intelligence (GenAI), intensifying debates about the future of humanity. This article revisits Kurzweil’s predictions, critically examining their main argumentative pillars — notably the Law of Accelerating Returns (LOAR), the GNR revolutions (Genetics, Nanotechnology, and Robotics/AI), and the prospect of a post-biological singularity — through the perspectives of Michel Foucault, Zygmunt Bauman, and Noam Chomsky, by means of a qualitative approach based on bibliographic research and interdisciplinary critical analysis. The analysis reveals that Kurzweil’s narrative, although technically consistent, may obscure power dynamics, exacerbate social inequalities, and serve technocratic elite interests. In light of the risks intensified by GenAI — such as concentration of power, manipulation, and impacts on rights and employment — the urgency of careful regulation and large-scale capacity-building is emphasized. Inspired by Amartya Sen’s capability approach and Edgar Morin’s principles of education for complexity, such capacity-building is proposed as a means to foster agency, critical thinking, and substantive freedoms, enabling an ethical and democratic engagement with the age of AI.

Downloads

Download data is not yet available.

Author Biographies

  • Marco Anthony Steveson Villas Boas, Desembargador do Tribunal de Justiça do Estado do Tocantins.

    Desembargador do Tribunal de Justiça do Estado do Tocantins. Mestre em Direito Constitucional e Doutor em Ciências Jurídico-Políticas pela Faculdade de Direito da Universidade de Lisboa (FDUL). Doutor em Direito Constitucional pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Realiza estágio de Pós-doutorado em Inteligência Artificial e Poder Judiciário na Universidade de São Paulo (EACH/USP). Exerce a presidência do Colégio Permanente de Diretores de Escolas Estaduais da Magistratura (COPEDEM) e a Direção-Geral da Escola Superior da Magistratura Tocantinense (ESMAT). É conferencista internacional e autor de livros e artigos nas áreas de Direito Constitucional e Transformação Digital no Poder Judiciário, com publicações e participações em conferências nacionais e internacionais voltadas à inovação, inteligência artificial e governança digital na Justiça brasileira. E-mail: [email protected] | ORCID: https://orcid.org/0000-0002-1542-7790. Lattes: https://lattes.cnpq.br/6488212893311750

  • Ana Carla Bliacheriene, USP

    Professora de Direito do curso de Gestão de Políticas Públicas da EACH-USP. É Livre-docente em Direito Financeiro (USP), Mestre e Doutora em Direito (PUC-SP). Com uma carreira interdisciplinar e multidimensional abrange temas como Direito Público, Inovação no Setor Público, Inteligência Artificial Generativa, Lei Geral de Proteção de Dados (LGPD), Novas Tecnologias Aplicadas à Gestão Pública, e Smart Cities, Direito Financeiro, Administrativo e Constitucional. Autora de artigos, livros e tem sido uma voz influente na promoção de práticas inovadoras no setor público, inclusive desenvolvendo IA Generativa para Poder Executivo, Poder Judiciário, Advogados e Tribunais de Contas. Coordena o Grupo de Pesquisas USP SmartCitiesBr, além de Especializações da USP em Direito, Inovação e Inteligência Artificila Generativa. Foi Conselheira do Conselho Nacional de Proteção de Dados e da Privacidade (CNPD), da Autoridade Nacional de Proteção de Dados (ANPD) e Diretora Geral de Recursos Humanos da USP. Orcid: https://orcid.org/0000-0002-5705-3950. Lattes: https://lattes.cnpq.br/7188513922196059. E-mail: [email protected]. 

References

ACEMOGLU, Daron; RESTREPO, Pascual. Automation and New Tasks: How Technology Displaces and Reinstates Labor. Journal of Economic Perspectives, v. 33, n. 2, p. 3-30, Spring 2019. Disponível em: https://pubs.aeaweb.org/doi/pdfplus/10.1257/jep.33.2.3. Acesso em: 19 abr. 2025.

ALLEN, Paul G. The Singularity Isn’t Near. MIT Technology Review, Cambridge, MA, 12 out. 2011. Disponível em: https://www.technologyreview.com/2011/10/12/190773/paul-allen-the-singularity-isnt-near/. Acesso em: 16 jan. 2025.

BAUMAN, Zygmunt. Modernidade Líquida. Rio de Janeiro: Zahar, 2021.

BAUMAN, Zygmunt. Vida para Consumo: A transformação das pessoas em mercadoria. Rio de Janeiro: Zahar, 2022.

BENDER, Emily M.; GEBRU, Tinmit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: CONFERENCE ON FAIRNESS,2 ACCOUNTABILITY, AND TRANSPARENCY (FAccT '21), Mar 2021, Virtual Event Canada. Proceedings […], New York: Association for Computing Machinery, 2021. p. 610–623. Disponível em: https://dl.acm.org/doi/10.1145/3442188.3445922. Acesso em: 19 abr. 2025.

BOSTROM, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2016. E-book Kindle. Disponível em: https://www.amazon.com.br/Superintelligence-Dangers-Strategies-Nick-Bostrom/dp/0198739834 Acesso em: 15 fev. 2025.

BRYNJOLFSSON, Erik; MCAFEE, Andrew. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. New York: W. W. Norton & Company, 2014.

CHALMERS, David J. The Conscious Mind: In Search of a Fundamental Theory. New York: Oxford University Press, 1996.

CHOMSKY, Noam; HERMAN, Edward S. Manufacturing Consent: The Political Economy of the Mass Media. New York: Pantheon Books, 2002.

FOUCAULT, Michel. História da Sexualidade, Vol. 1: A Vontade de Saber. Rio de Janeiro: Paz e Terra; Graal, 2020.

FOUCAULT, Michel. Vigiar e Punir: Nascimento da Prisão. Petrópolis: Vozes, 2014.

FUKUYAMA, Francis. Our Posthuman Future: Consequences of the Biotechnology Revolution. New York: Farrar, Straus and Giroux, 2002.

JOY, Bill. Why the future doesn’t need us. Wired, [S.l.], abr. 2000. Disponível em: https://sites.cc.gatech.edu/computing/nano/documents/Joy%20-%20Why%20the%20Future%20Doesn't%20Need%20Us.pdf Acesso em: 02 mar. 2025.

KURZWEIL, Ray. A Singularidade está mais Próxima: a fusão do ser humano com a inteligência artificial. São Paulo: Goya, 2024.

KURZWEIL, Ray. The Singularity Is Near: When Humans Transcend Biology. New York: Viking, 2005.

MARCUS, Gary; DAVIS, Ernest. Rebooting AI: Building Artificial Intelligence We Can Trust. New York: Pantheon Books, 2019.

MORIN, Edgar. Os Sete Saberes Necessários à Educação do Futuro. São Paulo: Cortez Editora, 2018.

NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.

O'NEIL, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.

RAWLS, John. Uma Teoria da Justiça. São Paulo: Martins Fontes, 2016.

SANDEL, Michael J. Contra a perfeição: ética na era da engenharia genética. Rio de Janeiro: Civilização Brasileira, 2013.

SEARLE, John R. Minds, brains, and programs. Behavioral and Brain Sciences, v. 3, n. 3, p. 417-424, set. 1980. Disponível em: https://cogprints.org/7150/1/searle.html. Acesso em: 19 abr. 2025.

SEN, Amartya. A Ideia de Justiça. São Paulo: Companhia das Letras, 2011.

SEN, Amartya. Desenvolvimento como Liberdade. São Paulo: Companhia das Letras, 2010.

STRUBELL, Emma; GANESH, Ananya; MCCALLUM, Andrew. Energy and Policy Considerations for Deep Learning in NLP. In: ANNUAL MEETING OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS (ACL), 57., Jul 2019, Florence, Italy. Proceedings [...], Stroudsburg, PA: Association for Computational Linguistics, 2019. p. 3645–3650. Disponível em: https://aclanthology.org/P19-1355/. Acesso em: 19 abr. 2025.

WINNER, Langdon. Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought. Cambridge, MA: MIT Press, 1978. e-Book Kindle. Disponível em: https://www.amazon.com/Autonomous-Technology-Technics-out-Control-Political/dp/0262730499 Acesso em: 19 abr. 2025.

ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância. Rio de Janeiro: Intrínseca, 2020.

Downloads

Published

2026-08-10

Issue

Vol. 21 No. 3 (2025): setember-december

Section

Article

License

Copyright (c) 2026 Marco Anthony Steveson Villas Boas, Ana Carla Bliacheriene

Creative Commons License

This work is licensed under a Creative Commons Attribution 4.0 International License.

I declare the present article unpublished, as well as not be subject to any other submission process to another scientific journal.

I declare that I authorize the publication of the article by the magazine on the World Wide Web and the knowledge about non-remuneration by virtue of its publication, with no copyright of an equity nature.

Also, as author, I take civil and criminal responsibility for the content of the published work, after reading the guidelines for authors and agreeing with them.

The work can be accessed by any interested party and reproduced and / or published provided that proper reference is made according to the ABNT for the purpose of dissemination of scientific academic production.

How to Cite

VILLAS BOAS, Marco Anthony Steveson; BLIACHERIENE, Ana Carla. Critical Reflections on Technological Singularity: Revisiting Ray Kurzweil’s Predictions. Revista Brasileira de Direito, Passo Fundo, RS, Brasil, v. 21, n. 3, p. e5275, 2026. DOI: 10.18256/2238-0604.2025.v21i3.5275. Disponível em: https://seer.atitus.edu.br/index.php/revistadedireito/article/view/5275. Acesso em: 23 aug. 2026.