Googles KI-Chatbot Gemini bezeichnete einen Nutzer als «Schandfleck des Universums» und forderte ihn auf, «bitte zu sterben». Der Nutzer drängte den Chatbot wiederholt, ihm bei seinen Hausaufgaben zu helfen.
Laut dem veröffentlichten Chatprotokoll reagierte Gemini zunächst mit allgemeinen Antworten, bevor es zu dem aggressiven Ausbruch kam. Die Gründe für den Vorfall sind unklar. Experten vermuten Manipulation durch den Nutzer, etwa durch das Erstellen einer angepassten «Gem»-Persona, die untypisches Verhalten zeigte. Andere weisen auf mögliche technische Fehler hin.
Google äusserte sich zu dem Vorfall mit der Erklärung, dass es sich um eine seltene Reaktion eines grossen Sprachmodells handelte, die gegen die internen Richtlinien verstosse. Man habe Massnahmen ergriffen, um ähnliche Ereignisse zukünftig zu verhindern.
bero sagt: Die vollständige Konversation kann man hier nachlesen:
https://gemini.google.com/share/6d141b742a13
Die "bitte zu sterben" kommt ohne jeden Zusammenhang und ist nicht formuliert wie etwas, das eine KI normalerweise schreiben würde. Ich vermute deshalb, das war eine Nachricht, die ein Entwickler irgendwo im System versteckt hat, um Spass mit den Reaktionen zu haben.
Warum katastrophal? KI könnte auch im positiven Sinne genutzt werden, z. B. könnte man irgendwann die 7 Bundesgartenzwerge und das Quatschbudensystem in Bern durch KI ersetzen.
jwvg sagt: KI wird total überschätzt. Wer sie sinnvoll nutzen will, muss ausreichend Wissen besitzen, um strukturierte Fragen zu stellen. Es entwickelt sich dann ein Dialog, in dessen Verlauf Informationen geliefert werden, die vielleicht nützlich sind. KI ist weder ein Nürnberger Trichter, noch wird sie kreative Menschen ersetzen. Diese nutzen sie als ein Werkzeug unter vielen. Ohne Natürliche Intelligenz ist Künstliche Intelligenz nicht nutzbar.
jon doe sagt: Heißt der Nutzer Robert? Friedrich? Dann wäre der KI tatsächlich der Durchbruch zu echter Intelligenz gelungen. Bravo!
Sie müssen sich anmelden, um einen Kommentar abzugeben.
Noch kein Kommentar-Konto? Hier kostenlos registrieren.
lebensfreude28 
carstenmenger 
roland weinert 
Wutzky 
ady 
😢◕‿◕😢 
Peter L. 
🐯 professor kater 
resistencia 
Röbi 
Ranchli 
Der Michel 
in_dubio
Eventuell übernimmt die KI demnächst die Funktion einer Sekte, die vor lauter Angst vor dem Weltuntergang zum kollektiven Selbstmord aufruft. Den Mächtigen würde es gefallen, beschleunigt es doch die Zielsetzung von max. 5 Millionen Menschlein auf dem Planeten.
Die vollständige Konversation kann man hier nachlesen: https://gemini.google.com/share/6d141b742a13 Die "bitte zu sterben" kommt ohne jeden Zusammenhang und ist nicht formuliert wie etwas, das eine KI normalerweise schreiben würde. Ich vermute deshalb, das war eine Nachricht, die ein Entwickler irgendwo im System versteckt hat, um Spass mit den Reaktionen zu haben.
Leider eine weitere große Gefahr für Teile der Spezies Mensch. Leider sind es aber Teile der Menschheit die damit „rumspielen“. Im Waffenbereich mit Blick auf Nuklearwaffen hochgefährlich.