The End of History? Envisioning the Economy at Technological Singularity

This paper contributes to the growing body of literature exploring the ramifications of AI-driven technological singularity and its economic implications. The exploration unfolds in three key segments. First, it sheds light on the concepts of artificial general intelligence (AGI), AI superintelligence, and singularity itself. Subsequently, it discusses the AI alignment problem, addressing the potential outcomes of superintelligent AI on human civilisation. Further, Giddens’ structuration theory is used to highlight the prominent role of AI-based “authoritative resources” in determining the allocation of resources and ensuring distributive justice in a techno-utopian society. The paper also explores the idea of utopia and the “end of history” and concludes with the suggestion that achieving a technological utopia with superintelligent AI is a mechanism design problem.

Niniejszy artykuł stanowi wkład w rosnącą literaturę poświęconą konsekwencjom technologicznym osobliwości napędzanej przez sztuczną inteligencję (SI) i jej skutkom gospodarczym. Analiza skupia się na trzech kluczowych aspektach. Po pierwsze, uwagę poświęcono koncepcji ogólnej sztucznej inteligencji (AGI), superinteligencji AI i samej osobliwości. Następnie omówiono problem dostosowania SI, odnosząc się do potencjalnych skutków superinteligentnej SI dla ludzkiej cywilizacji. Wykorzystując teorię strukturacji Giddensa, podkreślono także znaczącą rolę „autorytatywnych zasobów” opartych na sztucznej inteligencji w określaniu alokacji zasobów i zapewnianiu sprawiedliwości dystrybucyjnej w społeczeństwie technoutopijnym. W artykule przeanalizowano również ideę utopii i „końca historii”, a we wnioskach zasugerowano, że osiągnięcie technologicznej utopii z superinteligentną sztuczną inteligencją stanowi problem projektowania mechanizmów.