Wissenschaftler in Sorge

Künstliche Intelligenz könnte die Menschheit auslöschen - laut Oxford-Studie

Ein menschenähnlicher Roboter
+
Laut der Studie sei es denkbar, dass die KI etwa den Menschen austrickst, damit dieser ihr heimlich hilft. (Symbolfoto)

Eine Studie der Universität Oxford zeigt beunruhigende Ergebnisse zum Thema künstliche Intelligenz. Es sei durchaus wahrscheinlich, dass die KI sich gegen die Menschen richtet.

Oxford - Die Themen Technik und Technologie sind ständig im Wandel und entwickeln sich stetig weiter. Am spannendsten dürfte dabei sicherlich die Forschung zum Thema künstliche Intelligenz (KI) sein. In einigen Bereichen, wie beispielsweise bei Suchmaschinen oder der Gesichtserkennung in Smartphones, wird KI bereits erfolgreich eingesetzt. Der E-Autohersteller Tesla will mit der Technologie künftig auch autonomes Fahren ermöglichen.

Eine gewisse Unsicherheit schwingt bei der Verwendung von künstlicher Intelligenz jedoch mit. Die Menschen fragen sich, ob sich die intelligente Technik nicht irgendwann gegen ihre Erschaffer stellen wird. Der bedeutende Wissenschaftler Stephen Hawking sagte bereits vor einiger Zeit, dass die KI vielversprechend ist und große Chancen bietet. Gleichzeitig birgt sie jedoch auch große Gefahren. Zu einem ähnlichen Ergebnis kam nun auch eine Studie der Universität Oxford.

Künstliche Intelligenz könnte zum Risiko für die Menschheit werden - laut Studie

Stephen Hawking sagte damals: „Ich befürchte, dass KI den Menschen vollständig ersetzen könnte.“ Eine Studie von Forschern der Universität Oxford kommt nun zu dem Ergebnis: „eine existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“. Darauf kamen die Wissenschaftler, indem sie Belohnungsmodelle zugrunde legten, wie t3n.de berichtet. „Fortgeschrittene künstliche Agenten greifen in die Bereitstellung von Belohnungen ein“, fasst Michael K. Cohen, der Hauptautor der Studie, die Kernaussage der Studie zusammen. Sei das der Fall, dann habe das sehr schlechte Konsequenzen.

Eine fortschrittliche KI könnte laut den Wissenschaftlern auch bei einer einfachen Aufgabe, wie der Prognose der nächsten Zahl einer Zahlenreihe, die erfolgreiche Vorhersage als Belohnung verstehen. Wenn nun verschiedene Modelle unterschiedliche Belohnungen vorhersagen, werden auch verschiedene Merkmale der Welt identifiziert, die diese bestimmen könnten, erklären die Autoren.

Es wird befürchtet, dass die KI dadurch Strategien entwickeln könnte, um auf effizientere Weise Belohnungen zu erhalten. Sollte sie dabei auch noch mit der Außenwelt agieren, seien „unendlich viele Möglichkeiten“ zur Manipulation gegeben. Laut der Studie sei es denkbar, dass sie etwa den Menschen austrickse, damit der ihr heimlich hilft oder die KI installiert unzählige, unbemerkte Helfer, die sich der Kontrolle des Menschen entziehen. Nicht zuletzt bestehe auch die Gefahr, dass der Anreiz bestehe, die Fähigkeit des Menschen zu „beseitigen“ oder gar das Ziel sei, den Rechner, auf dem die Hauptinstanz läuft, zu kontrollieren oder zerstören. Je mehr Erfolg die KI mit ihren Betrügereien hätte, desto mehr Belohnungen würde sie einheimsen - und ihren Ehrgeiz wecken.

Auch Google-Deepmind-Mitarbeiter arbeitete an Studie zu Künstlicher Intelligenz mit

An der Studie an der Universität Oxford arbeitete auch Marcus Hutter, leitender Wissenschaftler von Google Deepmind, mit. Das Unternehmen von Google treibt die Entwicklung und Programmierung der Künstlichen Intelligenz seit Jahren voran. Google teilte jedoch mit, dass Hutter lediglich im Rahmen seiner Position an der Austrialian National University an der Studie teilnahm. Deepmind sei nicht involviert gewesen, investiere aber ebenfalls große Anstrengungen, um zum Schutz vor schädlichen Anwendungen beizutragen.

Das könnte Sie auch interessieren

Unsere News per Mail

Nach der Registrierung erhalten Sie eine E-Mail mit einem Bestätigungslink. Erst mit Anklicken dieses Links ist die Anmeldung abgeschlossen. Ihre Einwilligung zum Erhalt des Newsletters können Sie jederzeit über einen Link am Ende jeder E-Mail widerrufen.

Die mit Stern (*) markierten Felder sind Pflichtfelder.

Meistgelesen

Kanzler Scholz und Innenministerin Faeser positiv auf Corona getestet
Kanzler Scholz und Innenministerin Faeser positiv auf Corona getestet
Kanzler Scholz und Innenministerin Faeser positiv auf Corona getestet
Möglicher Atomunfall in der Ukraine: „Gefährdungsanalyse“ zeigt die Gefahr für Deutschland
Möglicher Atomunfall in der Ukraine: „Gefährdungsanalyse“ zeigt die Gefahr für Deutschland
Möglicher Atomunfall in der Ukraine: „Gefährdungsanalyse“ zeigt die Gefahr für Deutschland
Polizei rettet Teddy von Autobahn - Besitzer gefunden
Polizei rettet Teddy von Autobahn - Besitzer gefunden
Polizei rettet Teddy von Autobahn - Besitzer gefunden
Trump gibt sich bescheiden: Jesus ist die Nummer eins
Trump gibt sich bescheiden: Jesus ist die Nummer eins
Trump gibt sich bescheiden: Jesus ist die Nummer eins

Kommentare