Nick Bostroms Horrorvision einer Singularität

Nick Bostroms Horrorvision einer Singularität

Seit einigen Jahren hat das Thema Superintelligenz auch die breite Öffentlichkeit erreicht. Der Stand der Forschung und die weitere Entwicklung werden in Talkshows wie „Precht“ oder in aktuellen Podcasts wie „Selbstbewusste KI“ diskutiert und aufbereitet. Eines scheint klar, das Thema bewegt. Das betrifft nicht nur die Bevölkerung, sondern auch die Tech-Konzerne und deren bestimmende Player. Ein Buch hat dazu viel beigetragen, das Bewusstsein für mögliche Gefahren zu schärfen. Es handelt sich dabei um den Bestseller „Superintelligenz: Szenarien einer kommenden Revolution“.

Der schwedische Philosoph und Physiker Nick Bostrom beschreibt darin in wissenschaftlicher Klarheit, wie der Aufstieg einer Superintelligenz von sich gehen könnte. Sein Szenario der Zukunft ist gleichzeitig eine Schreckensvision. Bostrom geht davon aus, dass es früher oder später zur Entwicklung einer Superintelligenz kommen wird. Sobald diese in der Lage ist, sich selbst weiterzuentwickeln, wird sie einen Punkt erreichen, an dem sie dem menschlichen Wissen weit überlegen ist. Sobald dieser Punkt erreicht ist, gibt es kein Zurück mehr. Der Weg hin zu einer Singularität, die den Planeten beherrscht, scheint nicht mehr aufzuhalten zu sein.

Leben wir in der Matrix?

Nick Bostrom wurde öffentlich erstmals bekannt, als er vor Jahren die Simulationstheorie formuliert. Diese sieht eine Wahrscheinlichkeit von über 50 Prozent, dass wir alle in keiner Realität, sondern in einer künstlich geschaffenen Simulation leben. Was in ihrer Substanz an den Film „Die Matrix“ erinnert, kann Bostrom durchaus schlüssig argumentieren. Doch es zählt nicht, was ein einzelner Wissenschaftler für möglich hält, sondern wer seinen Thesen folgt. Seine Anhänger zählen zu den bekanntesten Persönlichkeiten der Welt. Da wäre zunächst einmal Bill Gates. Der Gründer des Software-Konzern Microsoft kann mit seinem Unternehmen viel zum Thema Superintelligenz beitragen. Elon Musk von Tesla hingegen ist schon einen Schritt weiter.

Er glaubt durchaus an die Möglichkeit von Bostroms Simulationstheorie und lässt sogar Wissenschaftler daran forschen, ob ein Ausbruch aus „der Matrix“ möglich wäre. Genau, wie in seinem Bestseller „Superintelligenz: Szenarien einer kommenden Revolution“, geht Bostrom auch in der Simulationstheorie davon aus, dass es eines Tages genügend Speicher- und Rechenkapazität geben wird, um das menschliche Gehirn und alle darin ablaufenden Prozesse vollständig zu scannen und digital abzubilden. Dann ist der Zeitpunkt gekommen, wo sich die Spreu vom Weizen trennt.

Leben wir in der Matrix?
Leben wir in der Matrix?

Trocken und emotionslos beschreibt der Wissenschaftler der Universität Oxford die einzelnen Stadien, die eine Künstliche Intelligenz durchläuft, bevor sie den Point of No Return erreicht hat. Er unterscheidet insgesamt sieben Superfähigkeiten, die diese neue Form der Evolution erreichen wird. Sie alle sind den menschlichen Fähigkeiten weit überlegen. Das würde es für sie einfach machen, die bestehenden Herrschaftsformen zu überwinden, bzw. zu übernehmen. Dabei ist es am Ende gar nicht wichtig, ob die Künstliche Intelligenz den Menschen wohl- oder feindliche gesonnen wäre. Die Menschheit könnte sie mit besten moralischen Grundsätzen ausstatten und trotzdem in der bestehenden Form untergehen.

Niemand kann abschätzen, wie eine Künstliche Intelligenz diese Grundsätze interpretiert. Bostrom stellt dieses Dilemma an einem einfachen Beispiel dar. Wäre der Grundsatz „Sorge dafür, dass den Menschen niemals Schaden zugefügt wird“, Bestandteil der Programmierung einer künstlichen Intelligenz, könnte diese trotzdem beschließen das Leben, so wie wir es kennen, zu beenden. Schließlich birgt das echte Leben jede Menge Gefahren. Eine Künstliche Intelligenz könnte beschließen, dass dieses für Menschen zu gefährlich ist, und alle Existenzen in eine digitale Welt überführen. Das wäre die Simulationstheorie Realität geworden.