Über 1000 Persönlichkeiten haben bisher den Appell unterschrieben, die gigantischen Artificial-Intelligence-Experimente rund um künstlich intelligente Systeme zu unterbrechen. Grund: Solange niemand – nicht einmal die Schöpfer – die Maschinen versteht, seien die Risiken zu gross, dass die Systeme ausser Kontrolle geraten. Wie dokumentieren den Aufruf im Wortlaut und übersetzt. Die Redaktion.
Künstlich intelligente Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungsarbeiten zeigen und von führenden KI-Labors anerkannt werden.
Wie in den weithin befürworteten Asilomar-KI-Grundsätzen dargelegt, könnte fortgeschrittene KI (Künstliche Intelligenz) einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden.
Leider findet eine solche Planung und Verwaltung nicht statt, obwohl sich die KI-Labors in den letzten Monaten in einem ausser Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe befunden haben, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.
Heutige KI-Systeme sind inzwischen bei allgemeinen Aufgaben mit Menschen konkurrenzfähig, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmässig überlegen, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?
Solche Entscheidungen dürfen nicht an nicht gewählte Technikführer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmass der potenziellen Auswirkungen eines Systems zunehmen.
In der jüngsten Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heisst es: «Irgendwann könnte es wichtig sein, eine unabhängige Überprüfung einzuholen, bevor mit dem Training künftiger Systeme begonnen wird, und für die am weitesten fortgeschrittenen Bemühungen zu vereinbaren, die Wachstumsrate der für die Erstellung neuer Modelle verwendeten Daten zu begrenzen.»
Wir stimmen dem zu. Dieser Zeitpunkt ist jetzt gekommen.
Deshalb fordern wir alle KI-Labors auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.
KI-Labors und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklungen zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden. Diese Protokolle sollten gewährleisten, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind. Dies bedeutet keine generelle Pause in der KI-Entwicklung, sondern lediglich eine Abkehr vom gefährlichen Wettlauf zu immer grösseren, unberechenbaren Black-Box-Modellen mit emergenten Fähigkeiten.
Die KI-Forschung und -Entwicklung sollte sich darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen.
Parallel dazu müssen die KI-Entwickler mit den politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Governance-Systeme drastisch zu beschleunigen.
Diese sollten zumindest Folgendes umfassen: neue und fähige Regulierungsbehörden, die sich speziell mit KI befassen; die Überwachung und Verfolgung hochleistungsfähiger KI-Systeme und grosser Pools von Rechenkapazitäten; Herkunfts- und Wasserzeichensysteme, die dabei helfen, echte von synthetischen Daten zu unterscheiden und Modelllecks zu verfolgen; ein robustes Prüfungs- und Zertifizierungssystem; die Haftung für durch KI verursachte Schäden; eine solide öffentliche Finanzierung der technischen KI-Sicherheitsforschung; und gut ausgestattete Institutionen zur Bewältigung der dramatischen wirtschaftlichen und politischen Verwerfungen, die KI verursachen wird (insbesondere für die Demokratie).
Die Menschheit kann mit KI eine blühende Zukunft geniessen. Nachdem es uns gelungen ist, leistungsfähige KI-Systeme zu schaffen, können wir nun einen «KI-Sommer» geniessen, in dem wir die Früchte ernten, diese Systeme zum klaren Nutzen aller entwickeln und der Gesellschaft die Chance geben, sich anzupassen.
Bei anderen Technologien mit potenziell katastrophalen Auswirkungen auf die Gesellschaft hat die Gesellschaft eine Pause eingelegt, das können wir auch hier tun. Geniessen wir einen langen KI-Sommer und stürzen wir uns nicht unvorbereitet in den Herbst.
haiko sagt: Mich erinnert das an den epochemachenden Kubrick-Film "2001 Odyssee im Weltraum" (1968).
Die Crew konfrontiert den angeblich makellos vollkommenen Bordcomputer Hal damit, dass ihm ein Fehler unterlaufen ist . Auf ihre Frage, wie er sich das erklärt, antwortet Hal: Dafür gibt es nur e i n e mögliche Ursache - menschliches Versagen. Das war der Moment, der für den Rest meines Lebens jeden naiven Glauben an die Heilsversprechen des technologischen Fortschritts endgültig
erledigt hat.
Herbert Wolkenspalter sagt: Gibt es schon eine Studie über die Entwicklung der Intelligenz von Gesellschaften, die besonders viel in Social Media unterwegs sind sowie am Handy kleben?
Ich vermute, es geht steil bergab.
Herbert Wolkenspalter sagt: Was mir bei KI am meisten hochkommt, ist die Ausforschung im Internet, die Profile von Menschen für sich selber oder zu Werbezwecken Dritter erstellt. Etliche Seiten erlauben nicht, dass nur technisch notwendige Cookies gesetzt werden. (Bestätigungen wären überflüssig, wenn es nur Unkritisches gäbe.)
So werden für jetzige und später aufkommende Interpretationswirren Tür und Tor geöffnet. Wer sich heute für das „falsche“ Produkt interessiert, den holt in 5 Jahren die Sozialpolizei ab.
marc3004 sagt: Wenn jetzt schon Leute wie Elon Musk ein Moratorium für die KI-Entwicklung fordern, scheint es ja schon rasant voranzugehen. Werden wir bald von Maschinen beherrscht, die nicht nur unsere Jobs ersetzen, sondern auch die veröffentlichte Meinung bestimmen?
bupsi sagt: Wenn eine Maschine nicht funktioniert wie geplant, wird nach dem Fehler gesucht. Nicht so im Cyber-Reich: da wird ein sich erratisch verhaltendes System als "intelligent" bezeichnet, und seine Schöpfer verfallen in pubertäre Allmachtsphantasien der Art "wow, wir haben ein intelligentes Wesen geschaffen, pass auf, lieber Gott, wir kommen".
Sorry, aber angesichts fühlbarer steigender Fehleranfälligkeit des "digitalen lifestyles" geht mir der KI-Hype gewaltig auf den/die Sack/Säckin.
Magra56 sagt: An unseren sogenannten Eliten sieht man doch , dass schon die natürliche Intelligenz fehlt und die Empathie, die uns von Gott gegeben sein sollte. Nun wollen sie auch noch künstliche Intelligenz schaffen. Wie kann künstliche Intelligenz gut sein, wenn sie von Eliten gefüttert wird?
Der Michel sagt: Ein großes Problem dürfte auch darin liegen, dass die Vertrauenswürdigkeit von Nachrichten noch weiter abnimmt. Es dürfte immer schwieriger werden, z.B. ein Video eines echten Interviews mit einem Politiker von eienm Deep Fake zu unterscheiden. Die sozialen Medien dürften mit einer Flut an Fakes überschwemmt werden, was die "Lagerbildung" in der politischen Diskussion weiter anheizen dürfte; aber auch offizielle Nachrichtensender werden sich wohl immer schwerer tun, Wahrheit und Fake zu trennen.
Hans Dreschi sagt: Haben Sie einer KI schon mal eine Aufgabe gestellt und sind dann zum Schluss gekommen, dass das Ergebnis ein Glump ist?
Auch kann ich mir beim besten Willen nicht vorstellen, dass es Prüflingen gestattet ist, z.B. ein Handy zur Einschaltung einer KI zu benutzen.
Aber ja, ich sehe eine unkontrollierte Entwicklung auch kritisch. Wenn schon Elon Musk, der eine Menge Kapital bei der KI-Entwicklung im Einsatz zu haben scheint, ein Moratorium fordert...
lilith sagt: Ich meinte die KI,die seit ein paar Wochen in aller Munde ist.Das hätte ich wohl dazu schreiben sollen. Sorry. Prüflingen,z.B.Fahrschule Theorie,war und ist es auch nicht gestattet,sich per sonstwas von Betrügereien,ihre Theorieprüfung zu ergaunern und machen trotzdem.Schüler und Studenten jubeln über die neue KI,Lehrer und Professoren verzweifeln daran,da sie einesteils nichts davon verstehen,auch Viele nichts verstehen wollen,andererseits nicht mehr beurteilen/ prüfen können,ob von KI od.nicht
lilith sagt: Das übereilte, überhastete, zum großen Teil unerforschte, doch bereits an zu vielen Stellen angewandte KI Glump, welches noch nicht mal die Entwickler/Programmierer verstehen, erinnert mich an den Film "Terminator-Rebellion der Maschinen." Wenn z.B. Lehrer, Uni-Prof's, Berufsschullehrer usw. noch nicht mal erkennen, ob Aufsätze, Prüfungsergebnisse, Hausaufgaben aller Arten, von den Schülern, Studenten, Prüflingen selbst geschrieben/gelöst wurden oder durch KI, liegt mehr als nur Viel im argen.
Sie müssen sich anmelden, um einen Kommentar abzugeben.
Noch kein Kommentar-Konto? Hier kostenlos registrieren.
Dokumentation 
eisbahn_nuancen0i 
schweizbeneider
Das übereilte, überhastete, zum großen Teil unerforschte, doch bereits an zu vielen Stellen angewandte KI Glump, welches noch nicht mal die Entwickler/Programmierer verstehen, erinnert mich an den Film "Terminator-Rebellion der Maschinen." Wenn z.B. Lehrer, Uni-Prof's, Berufsschullehrer usw. noch nicht mal erkennen, ob Aufsätze, Prüfungsergebnisse, Hausaufgaben aller Arten, von den Schülern, Studenten, Prüflingen selbst geschrieben/gelöst wurden oder durch KI, liegt mehr als nur Viel im argen.
Haben Sie einer KI schon mal eine Aufgabe gestellt und sind dann zum Schluss gekommen, dass das Ergebnis ein Glump ist? Auch kann ich mir beim besten Willen nicht vorstellen, dass es Prüflingen gestattet ist, z.B. ein Handy zur Einschaltung einer KI zu benutzen. Aber ja, ich sehe eine unkontrollierte Entwicklung auch kritisch. Wenn schon Elon Musk, der eine Menge Kapital bei der KI-Entwicklung im Einsatz zu haben scheint, ein Moratorium fordert...
Was mir bei KI am meisten hochkommt, ist die Ausforschung im Internet, die Profile von Menschen für sich selber oder zu Werbezwecken Dritter erstellt. Etliche Seiten erlauben nicht, dass nur technisch notwendige Cookies gesetzt werden. (Bestätigungen wären überflüssig, wenn es nur Unkritisches gäbe.) So werden für jetzige und später aufkommende Interpretationswirren Tür und Tor geöffnet. Wer sich heute für das „falsche“ Produkt interessiert, den holt in 5 Jahren die Sozialpolizei ab.