HUMAN-AI DESIGN
Ausgangspunkt dieses Konzepts ist der Umstand, dass komplexe dynamische Systeme wie eine Demokratie kaum durch einzelne politische Strömungen für alle Beteiligten zufriedenstellend gelöst werden können. Die Herausforderung besteht darin, dass komplexe dynamische Systeme parallele Lösungen erfordern, die an die Realität der einzelnen Gemeinschaften (Resonanzräume) angepasst sein müssen. Die vielleicht größte Herausforderung besteht daher darin, die Systemabläufe und Informationskanäle so zu gestalten, dass sie der Art der angestrebten kollektiven Entwicklung (Vision eines Resonanzraums) entsprechen.
Darüber hinaus benötigen einige komplexe dynamische Systeme, wie der Mensch als Individuum und innerhalb einer Gruppe, Gemeinschaft oder Bevölkerung, eine sinnstiftende und verständliche Modellierung des Systems, in dem man sich bewegt und das die Denkweise und das Verständnis der Welt beeinflusst und prägt. In dieser kognitiven Logik kommt bereits zum Ausdruck, dass herkömmliche Modellierungen keine befriedigende Erklärung bieten können, da jeder Mensch und jede Gemeinschaft ganz spezifische Anforderungen und Bedürfnisse hat. Daher führt jede Vereinfachung in der Regel zu einer abstrakten Unzulänglichkeit, die nicht in der Lage ist, eine umfassende Realität abzubilden.
Das Verstehen der komplexen Gegenwart erfordert daher Verständnis und Geduld. Die „einfachste“ Art, ein komplexes dynamisches System zu beschreiben, ist die Beobachtung der naturwissenschaftlichen Phänomene, die ein komplexes dynamisches System bestimmen. Aus der Vielzahl dieser Phänomene werden hier vor allem Entropie und Emergenz herausgegriffen. Auch wenn ein direkter Zusammenhang zwischen diesen beiden Phänomenen naturwissenschaftlich noch nicht exakt erfasst werden kann, zeigt z.B. die Belousov-Zhabotinsky-Reaktion, dass stabile, komplexe Muster entstehen können, auch wenn die Gesamtentropie im System zunimmt.
Die Entwicklung der Künstlichen Intelligenz (KI) und der Artificial General Intelligence (AGI) bietet Möglichkeiten, diese komplexen Phänomene überschaubar zu erfassen und für die friedliche Entwicklung der Gesellschaft zu nutzen. Während allerdings zahlreiche Forscher und Unternehmen weltweit an KI- und AGI-Systemen arbeiten, fehlt bislang ein kohärentes Konzept für ein Human-AI Design, das eine friedliche Koevolution von Mensch–Mensch und Mensch–Maschine ermöglicht (Bostrom, 2014). Ausgehend vom Konzept der World Models (LeCun, 2022) entwickelt dieser Beitrag einen Ansatz für ein umfassendes Human AI Design, das auf die Lösung der UN Sustainable Development Goals (SDGs) ausgerichtet ist, mögliche Bedrohungen berücksichtigt und das Prinzip der sozialen Entropie nutzt, um positive Emergenzphänomene zu fördern.
Eine hohe soziale Entropie als Ausdruck der Fragmentierung einer Gesellschaft und die damit verbundene Radikalisierung einzelner Gruppen kann aus der Perspektive dieses Modells als Bedürfnis nach neuen (manchmal vergangenen, aber letztlich doch unbekannten) Lösungen interpretiert werden. Diese Interpretation erfordert allerdings eine umfassende makrosoziologische Aufarbeitung der Wechselwirkung und des Zusammenhangs der Phänomene Emergenz und Entropie, auf die an anderer Stelle eingegangen wird.
Was ist Human-AI-Design?
HumanAI-Design ist ein aufstrebendes interdisziplinäres Feld, das sich auf die Gestaltung von Schnittstellen, Interaktionen und Systemen konzentriert, die Menschen und künstliche Intelligenz in synergetischer Weise zusammenbringen. Es zielt darauf ab, die Stärken beider Seiten zu nutzen, um kreative, produktive und ethisch fundierte Lösungen für komplexe Probleme zu entwickeln. Dabei werden Aspekte der Kognitionswissenschaft, des UX-Designs, der Ethik und der KI-Forschung integriert (Shneiderman, B. (2020).
Die vier Hauptpunkte des Human-AI-Design-Thinking sind:
• Fokus auf Menschen
• Schnelles (Service-)Prototyping
• Kreative Ideengenerierung
• Entwicklung effektiver Lösungen
Weiterentwicklung demokratischer Prozesse
Das Human-AI Design bietet als übergeordnetes Konzept eine innovative Möglichkeiten zur Weiterentwicklung und Stärkung demokratischer Prozesse im 21. Jahrhundert. Um die Integration von KI-Systemen in politische Entscheidungsfindungsprozesse zu gewährleisten und komplexe gesellschaftliche Herausforderungen übersichtlicher zu adressieren und gleichzeitig die Partizipation und Repräsentation der Bürger verbessern zu können (Helbing et al., 2017), müssen individuelle und transparente KI-Lösungen entwickelt werden. Dafür benötigt es Entwürfe für KI-gestützte Plattformen, die nachvollziehbar und unverzerrt große Mengen an Bürgerfeedback analysieren und synthetisieren, um ein nuancierteres Bild der öffentlichen Meinung zu erhalten (Landemore, 2020). Damit können Simulationsmodelle die langfristigen Auswirkungen politischer Entscheidungen ausarbeiten, was informiertere Debatten ermöglicht (Celi et al., 2021). Blockchain-basierte Abstimmungssysteme könnten die Transparenz und Sicherheit von Wahlen erhöhen (Pawlak et al., 2018), während KI-Assistenten Bürger bei der Navigation durch komplexe politische Themen unterstützen (Savaget et al., 2019). Entscheidend ist dabei, dass diese Technologien als Ergänzung und nicht als Ersatz für menschliche Deliberation und Entscheidungsfindung konzipiert werden (Danaher, 2016). Ein wohlgestaltetes Human-AI Design für demokratische Prozesse zielt darauf ab, die kollektive Intelligenz der Gesellschaft zu stärken und eine inklusivere, responsivere und zukunftsfähigere Demokratie zu schaffen (Mulgan, 2018).
Der Status quo der AGI-Forschung
Die AGI-Forschung hat in den letzten Jahren enorme Fortschritte gemacht, insbesondere durch Durchbrüche im Bereich des maschinellen Lernens und neuronaler Netze (Goertzel & Pennachin, 2007). Dennoch ist die Entwicklung einer menschenähnlichen allgemeinen Intelligenz nach wie vor eine große Herausforderung. Ein zentrales Problem ist dabei die Integration verschiedener kognitiver Fähigkeiten zu einem kohärenten System (Lake et al., 2017).
Der wirtschaftliche Wettbewerb um Marktanteile und Ressourcen erschwert zudem eine koordinierte und ethisch fundierte Entwicklung von AGI-Systemen (Baum, 2017). Es besteht die Gefahr, dass der Wettkampf zwischen Unternehmen und Nationen auf die KI-Systeme selbst übertragen wird, mit potenziell destabilisierenden Folgen für die globale Ordnung.
World Models als Ausgangspunkt
Ein vielversprechender Ansatz für die Entwicklung von AGI sind die von Yann LeCun (2022) vorgeschlagenen World Models. Diese zielen darauf ab, KI-Systeme mit einem umfassenden Verständnis der physikalischen und sozialen Welt auszustatten. World Models könnten als Grundlage für ein globales Human-AI Design dienen, indem sie eine gemeinsame Basis für die Interaktion zwischen verschiedenen KI-Systemen und Menschen schaffen.
Um dies zu erreichen, wäre es notwendig, standardisierte Schnittstellen zwischen den World Models verschiedener AGI-Systeme zu entwickeln. Diese Schnittstellen müssten es den Systemen ermöglichen, Informationen und Erkenntnisse auszutauschen, ohne dabei ihre Unabhängigkeit oder die Sicherheit ihrer Nutzer zu gefährden.
Der künstliche Resonanzraum als Modell für Human-AI Interaktion
Das Konzept des Resonanzraums nach Hartmut Rosa (2016) bietet einen fruchtbaren Ansatz, um die Interaktion zwischen Mensch und KI neu zu denken. Rosa beschreibt Resonanz als eine Form der Weltbeziehung, die durch wechselseitige Beeinflussung und Transformation gekennzeichnet ist. Übertragen auf das Human-AI Design könnte dies bedeuten, dass KI-Systeme und Menschen in einen dialogischen Prozess eintreten, der beide Seiten verändert und weiterentwickelt.
Ein solcher Resonanzraum zwischen Mensch und KI könnte gezielt auf die Lösung der UN-Nachhaltigkeitsziele ausgerichtet werden. Dabei würden die komplementären Stärken von menschlicher Kreativität und maschineller Rechenleistung genutzt, um innovative Lösungen für globale Herausforderungen zu entwickeln.
Soziale Entropie und Emergenz
Das Konzept der sozialen Entropie, verstanden als Maß für die Ungleichverteilung von Ressourcen und Chancen in einer Gesellschaft (Bailey, 1990), kann genutzt werden, um die Entwicklung von Human-AI Systemen zu steuern. Ziel wäre es, durch gezielte Interventionen und Synchronisationseffekte positive Emergenz-Erscheinungen hervorzurufen.
In diesem Kontext wird Emergenz als das Auftreten neuer, unerwarteter Eigenschaften oder Verhaltensweisen in komplexen Systemen verstanden (Goldstein, 1999). Durch die Schaffung von Resonanzräumen zwischen Mensch und KI sowie zwischen verschiedenen KI-Systemen könnten emergente Phänomene gefördert werden, die zu innovativen Lösungen in der globalen Selbstorganisation führen.
Von World Models zu smarten Haushaltsgeräten
Ein globales Human-AI Design muss daher alle Ebenen der Mensch-Maschine-Interaktion umfassen, von hochkomplexen World Models bis hin zu alltäglichen smarten Haushaltsgeräten. Letztere können als Schnittstellen zwischen den abstrakten World Models und der Lebenswelt der Menschen fungieren.
Smarte Haushaltsgeräte könnten beispielsweise lokale Versionen von World Models implementieren, die mit den globalen Modellen interagieren. So könnte ein intelligenter Kühlschrank nicht nur den Lebensmittelverbrauch optimieren, sondern auch globale Nachhaltigkeitsziele in den Alltag der Menschen integrieren, indem er etwa Empfehlungen für klimafreundliche Ernährung gibt.
Referenzen
Bailey, K. D. (1990). Social entropy theory. State University of New York Press.
Baum, S. D. (2017). On the promotion of safe and socially beneficial artificial intelligence. AI & Society, 32(4), 543-551.
Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.
Celi, L. A., Cellini, J., Charpignon, M. L., Dee, E. C., Dernoncourt, F., Eber, R., … & Wornow, M. (2021). Sources of bias in artificial intelligence that perpetuate healthcare disparities—A global review. PLOS Digital Health, 1(3), e0000022.
Danaher, J. (2016). The threat of algocracy: Reality, resistance and accommodation. Philosophy & Technology, 29(3), 245-268.
Goertzel, B., & Pennachin, C. (Eds.). (2007). Artificial general intelligence. Springer.
Goldstein, J. (1999). Emergence as a construct: History and issues. Emergence, 1(1), 49-72.
Helbing, D., Frey, B. S., Gigerenzer, G., Hafen, E., Hagner, M., Hofstetter, Y., … & Zwitter, A. (2017). Will democracy survive big data and artificial intelligence? Scientific American, 25.
Lake, B. M., Ullman, T. D., Tenenbaum, J. B., & Gershman, S. J. (2017). Building machines that learn and think like people. Behavioral and Brain Sciences, 40, e253.
Landemore, H. (2020). Open democracy: Reinventing popular rule for the twenty-first century. Princeton University Press.
LeCun, Y. (2022). A path towards autonomous machine intelligence. OpenReview.
Mulgan, G. (2018). Big mind: How collective intelligence can change our world. Princeton University Press.
Pawlak, M., Poniszewska-Marańda, A., & Kryvinska, N. (2018). Towards the intelligent agents for blockchain e-voting system. Procedia Computer Science, 141, 239-246.
Rosa, H. (2016). Resonanz: Eine Soziologie der Weltbeziehung. Suhrkamp Verlag.
Savaget, P., Chiarini, T., & Evans, S. (2019). Empowering political participation through artificial intelligence. Science and Public Policy, 46(3), 369-380.
Shneiderman, B. (2029). Human-AI design: Bridging the gap between artificial intelligence and human creativity. MIT Press.