OpenAI

"Superintelligenz": ChatGPT-Anbieter warnt - KI könnte die Menschheit vernichten

Aktualisiert: 19.07.2023
07:45 Uhr
Joachim Vonderthann

Der ChatGPT-Anbieter OpenAI warnt vor einer Entmachtung der Menschheit durch Künstliche Intelligenz.© REUTERS/Herwig Prammer

ChatGPT-Anbieter OpenAI macht sich Sorgen über das eigene Produkt: Die künstliche "Superintelligenz" könnte die Menschheit entmachten oder sogar ausrotten.

Das Wichtigste in Kürze

ChatGPT-Anbieter OpenAI will die Macht des eigenen Produkts beschränken.
OpenAI-Mitgründer Sutskever warnt davor, dass Künstliche Intelligenz die Menschheit entmachten könnte.
Es seien wesentliche bessere Techniken nötig, um KI kontrollieren zu können.

ChatGPT-Anbieter OpenAI sieht die Sicherheit der Menschheit durch Künstliche Intelligenz erheblich gefährdet. Man wolle deshalb ein neues Forschungsteam zusammenstellen und erhebliche Ressourcen investieren, wie das KI-Unternehmen am Mittwoch (4. Juli) mitteilte. "Die enorme Macht der "Superintelligenz" könnte zu einer Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen", warnten OpenAI-Mitgründer Ilya Sutskever und der Leiter der OpenAI-Abteilung für zukünftige Ausrichtung, Jan Leike, in einem Blog-Beitrag.

Im Video: Künstliche Intelligenz im Klassenzimmer - Herausforderung für Lehrkräfte

OpenAI: KI könnte Menschheit entmachten

Die beiden KI-Experten betonten weiter: "Derzeit haben wir keine Möglichkeit, eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie eigene Wege geht." Die Autoren des Blogs sagten voraus, superintelligente KI-Systeme, die intelligenter seien als Menschen, könnten noch in diesem Jahrzehnt verwirklicht werden. Der Mensch werde bessere Techniken benötigen als zurzeit zur Verfügung stehen, um superintelligente KI zu kontrollieren.

Microsoft werde daher 20 Prozent seiner Rechnerleistung in den nächsten vier Jahren dafür einsetzen, eine Lösung dieses Problems zu erarbeiten. Zudem sei das Unternehmen dabei ein neues Forschungsteam, das "Superalignment Team" zu diesem Zweck zusammenzustellen.

Aktuell keine Möglichkeit, KI zu kontrollieren

Die potenziellen Gefahren der Künstlichen Intelligenz werden zurzeit von Forschern und in der breiten Öffentlichkeit intensiv diskutiert. Die EU hat sich bereits auf einen Gesetzentwurf zur Regulierung von KI geeinigt, den "AI Act". In den USA wird nach dem Vorbild der EU über eine Einstufung von KI-Anwendungen in Risikoklassen diskutiert, von der die Auflagen für die Unternehmen abhängen.

Im März hatte eine Gruppe von KI-Branchenführern und -Experten um Elon Musk einen offenen Brief unterzeichnet, in dem sie auf mögliche Risiken von KI für die Gesellschaft hinwiesen und eine sechsmonatige Pause bei der Entwicklung von Systemen forderten, die leistungsfähiger seien als OpenAIs GPT-4.