Das Ausrichtungsproblem: Wohin steuern wir mit immer fähigerer KI?

Hinter den scheinbaren Fortschrittssprüngen wie ChatGPT steckt ein robuster exponentieller Trend: Die Länge an Aufgaben, die KIs bewältigen können, verdoppelt sich alle paar Monate. Die schnelle Entwicklung setzt uns vor viele gesellschaftliche Herausforderungen, aber zusätzlich gibt es noch technische Probleme: Sind wir technisch überhaupt in der Lage, sehr fähige KI-Systeme so zu gestalten, dass sie eine Welt im Sinne menschlicher Werte anstreben?

In diesem Vortrag werfen wir einen Blick auf das Ausrichtungsproblem. Wir betrachten Beispiele, wie sich KI-Systeme schon heute in Weisen verhalten, die von ihren Entwicklern nicht beabsichtigt waren (etwa Erpressung zur Vermeidung der eigenen Abschaltung), und diskutieren, welche grundlegenden Schwierigkeiten uns bei deutlich fähigeren Systemen bevorstehen. Dabei beleuchten wir auch, warum führende Wissenschaftler inzwischen sogar vor der Auslöschung der Menschheit warnen. Zum Abschluss werfen wir einen Blick auf mögliche politische Antworten.