Marschhalt in der KI?

Haben Sie eigentlich das mit dem eventuellen KI-Stopp mitbekommen?

Das war ja schon unglaublich, das war ja schon sehr speziell, dass ein paar Leute vor dem zu raschen Fortschreiten der KI warnen und diese Leute sind nicht irgendwelche Philosophen oder Kulturkritiker oder Kommunisten, es sind die Chefs von KI-Unternehmen. Sie selbst! Die Bosse aus der High Tech rufen: Marschhalt bei der KI! Sie scheinen gemerkt zu haben, dass bestimmte Sachen aus dem Ruder laufen könnten. Da kommt einem doch Goethe in den Sinn:

Und sie laufen! Nass und nässer
Wirds im Saal und auf den Stufen;
Welch entsetzliches Gewässer!
Herr und Meister, hör mich rufen! –
Ach, da kommt der Meister!
Herr, die Not ist groß!
Die ich rief, die Geister
Werd ich nun nicht los.

Es geht nämlich um das Folgende: Was tun wir, wenn die KI unsere eigentlichen Grundsätze entdeckt und dann so handelt, dass diese Grundsätze verwirklicht werden?
Ich habe im Jahr 2015 vier Posts zum Thema «Roboter» geschrieben, habe aber ein Problem nicht behandelt: Ein Roboter, dem man die Maxime «Schaden vom Menschen abwenden» beigebracht hat, müsste
* Ihnen die Zigarette aus der Hand schlagen.
* Ihre Hausbar ins Klo leeren und die Flaschen ins Leergut kippen.
* Mousse und Speck aus Ihrem Kühlschrank entfernen.
* Sie im Fitnessstudio anmelden.
Was nun aber, wenn die KI global «Schaden von der Menschheit abwenden» als Maxime hätte? Was, wenn die KI «Schaden vom Planeten abwenden» hätte?
Wenn die KI an den Planeten denkt, MUSS sie zum Schluss kommen, dass die schlimmste Sache für den blauen Planet, der da um diesen Fixstern, genannt «Sonne» kreist, eine Spezies der Klasse Mammalia ist, die sich «Mensch» nennt. Diese Spezies macht die Wälder kaputt, macht die Flüsse kaputt, macht die Meere kaputt, macht das Klima kaputt, macht…
Eine KI, die ihren Namen verdient, wird die Menschheit vernichten.

Das Spezielle an dem Aufschrei der KI-Firmen war nun auch der Wunsch nach staatlicher Regulierung – und die Reaktion des Staates darauf. Trump hat ganz klar gesagt, was er von einem Moratorium hält:
Nix.
Gar nix.

Das ist jetzt so, wie wenn in einer Familie die drei Söhne (13, 14, 15) merken, dass sie in die Pubertät kommen (bzw. schon sind) und flehend zum Vater gehen: «Papi, wir sind in bzw. kommen in die Pubertät und wir brauchen Regeln! Bitte beschränke unseren Alkoholkonsum auf 2 Flaschen Bier pro Wochenende! Bitte verbiete uns das ungesunde Rauchen! Bitte schaue, dass wir immer rechtzeitig zuhause und im Bett sind! Und bitte kontrolliere unsere Taschen, ob wir immer Kondome dabei haben! Und am besten schalte die Handys so, dass du immer mitlesen kannst!»
Und der Vater meint: «Nix da, ihr seid alt genug, ich werde den Teufel tun, tobt euch aus, sonst habt ihr ja keine Jugend.»
Das kommt ja so nie vor.

Trumps Argument leuchtet aber ein klein wenig (ein klein wenig! ein bisschen! ein My! eine Nuance!) ein. Amerika hat gerade einen unglaublichen Vorsprung gegenüber China, da wäre es doch jammervoll, wenn man den verschenkt. Wenn nämlich nicht alle Staaten mitmachen, ist ein Moratorium, ein Marschhalt natürlich für die Katz.
Anders formuliert:
Wenn die Menschheit kollektiv gegen die Wand fährt, wollen die USA wenigstens vorne dabei sein.

Ja, das waren unglaubliche Neuigkeiten letztes Wochenende: Die KI-Bosse selbst haben Muffensausen bekommen. Und verlangen einen Marschhalt.

So.
Jetzt gehe ich mir einen Kaffee rauslassen.
Wenn mein Roboter mich lässt.