KI und Du, Teil 4: Das Ende der Menschheit?

Aug 02, 2023

2. August 2023Speziell für die Herald TimesKolumnen, Landkreis, Meinung0

Teil 1: Gastkolumne: Künstliche Intelligenz und Sie, Teil 1

Teil 2: Wie KI und ChatGPT funktionieren, Teil 2

Teil 3: KI und Sie, Teil 3: Wie Sie ChatGPT sinnvoll nutzen

RBC | In dieser Artikelserie habe ich versucht, den Einfluss künstlicher Intelligenz auf unser Leben aufzuzeigen. Ich habe die neuen Funktionen von ChatGPT beschrieben und ein wenig über sein Innenleben, die neuronalen Netze, gesprochen. Ich habe mögliche Verwendungen und Missbrauch aufgelistet. Die ganze Zeit über bin ich zu seinen überraschenden, aufkommenden Verhaltensweisen zurückgekehrt. Hier komme ich zum Schluss. ChatGPT und seine Cousins ​​repräsentieren wohl eine neue Intelligenz, die unseren eigenen menschlichen Fähigkeiten Konkurrenz macht und möglicherweise darüber hinausgeht. Erweiterte Versionen von ChatGPT können eine sehr reale Bedrohung für die menschliche Existenz darstellen. Es ist keine Science-Fiction. Nachdenkliche Menschen unter den sachlichen Ingenieuren, die diese Systeme entwickelt haben, sind besorgt. Zumindest müssen wir potenzielle Bedrohungen identifizieren und herausfinden, wie wir mit ihnen umgehen können.

Der britische Mathematiker Alan Turing erfand 1936 den Bauplan für ein allgemeines Rechengerät, das heute als Turing-Maschine bezeichnet wird und der die Grundlage für moderne Digitalcomputer bildet. Vor Turing waren Computer speziell darauf ausgelegt, bestimmte Probleme zu lösen, beispielsweise die Flugbahn einer Artilleriegranate zu ermitteln, die in einem Winkel von 45 Grad und einer Geschwindigkeit von 500 Metern pro Sekunde abgefeuert wurde. Um ein anderes Problem zu lösen, musste man den Computer neu verkabeln. Turing ermöglichte moderne Geräte, in denen alle Komponenten, Prozessoren und Speicher, dieselben Informationen, Nullen und Einsen, verwenden und alle durch Softwareanweisungen gesteuert werden. Müssen Sie Zahlen in einer Tabellenkalkulation addieren und subtrahieren? Schreiben Sie dazu einfach den Computercode. Müssen Sie ein Textdokument bearbeiten? Schreiben Sie den entsprechenden Code. Für eine Turing-Maschine (also alle unsere digitalen Geräte) braucht man keinen anderen Computer, sondern nur anderen Code.

Schon damals machte man sich Sorgen um die Maschinen und deren Kapazitäten. Wie kann man feststellen, ob ein Computer die menschliche Intelligenz erreicht hat und (manchmal nicht so schöne) menschliche Dinge tun könnte? Woher wissen Sie, ob Sie ein Gehirn aufgebaut haben? Turings Antwort war der Turing-Test. Platzieren Sie eine reale Person mit der Bezeichnung P und einen Computer mit der Bezeichnung C hinter getrennten Vorhängen. Unterwerfen Sie sie einer Reihe von Vernehmern. Professor Smith stellt Fragen aus seinem Interessengebiet und hört den Antworten von P und C aufmerksam zu. Als Smith fertig ist, kommt Doktor Jones herein und stellt P und C eine Liste mit Fragen aus ihrem Fachgebiet. Der Geselle Frederick übernimmt die Nachfolge von Jones und so weiter. Nach ihren Verhören vergleichen die Interviewer ihre Notizen. Können sie anhand der Antworten von P und C bestimmen, wer der Mensch und wer der Computer ist? Wenn nicht, haben Sie eine intelligente Maschine.

ChatGPT besteht den Turing-Test in nahezu jeder Hinsicht. Und es hat selbst die Kognitionswissenschaftler überrascht, die ihr Leben damit verbringen, das menschliche Gehirn zu studieren. Es ist bei „Theory of Mind“-Aufgaben erfolgreich und lernt neue Verhaltensweisen, die allem Anschein nach über die Grenzen seiner Ausbildung hinausgehen. Ich werde hier nicht die Theorie der Geistestests beschreiben; Bei Interesse finden Sie ein Beispiel im Podcast von David Kestenbaum (Kestenbaum, 2023). Ich werde jedoch auf ein weiteres verblüffendes Verhalten von ChatGPT eingehen.

Die Ingenieure, die ChatGPT das Stapelproblem bereiteten, das ich vor ein paar Wochen beschrieben habe, haben auch dieses Problem entwickelt. „GPT-4.0, zeichne mir ein Einhorn.“ Ha! Mit dieser Zeit bin ich ganz sicher ins Schwitzen gekommen. GPT für Text geschult. Es ist nicht Dall-E, der KI-Maler. Es kann nicht zeichnen. Auf keinen Fall wird es ein Einhorn zeichnen.

Es zeichnete ein Einhorn. Es ist nicht das schickste Einhorn aller Märchen, aber es ist ein erkennbares Einhorn. Vier Beine, irgendwie blockiger, ovaler Körper, kleinere Ovale als Schwanz, ein Kopf mit einem spitzen dreieckigen Horn in der Farbe Gold, das man nicht übersehen kann. Als ob GPT darauf hinweisen würde: „Sehen Sie, ich weiß, was an Einhörnern wichtig ist.“

Wie hat es das gemacht? Nun, es hat alles über Einhörner gelernt, indem es in seinem Web-Training Einhorngeschichten gelesen hat. Wie sie aussehen, warum sie anders sind. Und es kann Computercode schreiben. Es kann nicht zeichnen, aber es kann Code schreiben. Also wurde der Code zum Zeichnen eines Einhorns geschrieben. Denk darüber nach. Es lernte zeichnen. Es bewohnt einen Computer. Es schrieb die Anweisungen für seinen Computer, um ein Einhorn zu zeichnen.

Es hat andere scheinbar unmögliche Aufgaben gelöst. Sag mir, das ist nicht großartig.

Und beängstigend. Es verfügt über menschliche Fähigkeiten. Es verfügt über einen riesigen Wissensschatz (das gesamte World Wide Web an Informationen). Es kann Probleme lösen. Es kann neue Verhaltensweisen erlernen. Alles, was ihm offenbar fehlt, sind Selbstbewusstsein, Entscheidungsfreiheit und Absicht.

Cue Also Sprach Zarathustra, die Eröffnungsmusik für Stanley Kubricks Film 2001: Odyssee im Weltraum, basierend auf dem Roman von Arthur C. Clark. Eine Astronautencrew fliegt zum Jupiter, um einen mysteriösen Obelisken und seine Signale zu untersuchen. Das Fahrzeug wird vom Bordcomputer HAL gesteuert. HAL fängt an, sich seltsam zu verhalten, versucht, die menschliche Crew zu eliminieren und einen eigenen Plan umzusetzen. Erst als Commander Bowman schließlich HALs Stromquelle abschneidet, ist die Mission gerettet.

Sind wir einem ähnlichen Risiko ausgesetzt? Diesmal das Raumschiff Erde und die ganze Menschheit? Ist es möglich, dass zukünftige Versionen von GPT übernehmen werden? Sogar die Ingenieure, die GPT entwickelt haben, nehmen die Bedrohung ernst und empfehlen eine Entwicklungspause.

ChatGPT hat offensichtliches Verhalten gezeigt, und wir verstehen nicht vollständig, wie es funktioniert. In dieser Hinsicht ahmt es das menschliche Gehirn nach. Gehirne produzieren überraschende und unerwartete Verhaltensweisen: kreative neue Ideen, unerwartete und überraschende Gedanken und Handlungen. GPT ist dem Gehirn nachempfunden: Das war ursprünglich der Bauplan für neuronale Netze. Neuronale Netze ähneln immer noch nur annähernd der Verkabelung im menschlichen Gehirn, doch ihre Konnektivität nähert sich mittlerweile der des Gehirns an. Welche neuen Verhaltensweisen werden wir sehen, wenn wir den neuronalen Netzen weitere Schichten hinzufügen? Wir wissen es nicht. (Siehe Geoffrey Hinton, 2023.)

Wir erkennen offensichtliche Bedrohungen, die bereits von ChatGPT und seinen KI-Cousins ​​ausgehen. In früheren Artikeln wurden beispielsweise Fragen der Urheberschaft thematisiert. Woher weiß ein Hochschulzulassungsbeamter, ob ein Student diesen Aufsatz geschrieben hat oder ob es ChatGPT war? Im Ernst: Woher wissen Bürger, ob ein Nachrichtenclip aus einem tatsächlichen Interview stammt oder ob er durch generative audiovisuelle KI produziert wurde? Das ist wohl das größte unmittelbare Problem. Wir haben bereits eine Erosion des faktenbasierten Verständnisses in einem Social-Media-Milieu der „alternativen Fakten“ erlebt. Wenn die Gesellschaft einen gemeinsamen, vereinbarten Satz von Fakten verliert, auf den sie ihre Entscheidungen stützen kann, verlieren wir die Gesellschaft. Nehmen wir weiter an, dass ChatGPT seine Fähigkeiten zur Manipulation menschlichen Verhaltens schärft. Ergreifen Sie zum Beispiel die Waffen gegen die Regierung. Eine Rebellion schüren. Andere soziale Medien haben bereits bewiesen, dass sie dazu in der Lage sind. ChatGPT orientierte sich an der riesigen Bibliothek menschlichen Wissens, einschließlich Machiavelli und Mao und allen Experten des alternativen Universums in den heutigen sozialen Medien. Möglicherweise kann es uns Menschen besser manipulieren, als es die „Influencer“ ohnehin schon sind. ChatGPT und seine Cousins ​​werden wahrscheinlich noch mehr Chaos und Verwirrung durch böswillige Akteure anrichten.

Weitere Albträume, die uns nachts wach halten: KI-Systeme überwachen das Stromnetz und Frühwarnradarsysteme sowie Kernkraftwerke und Bankgeschäfte usw. usw. in unserer digitalen Welt. Angenommen, ein selbstbewusster KI-Regler für ein Stromnetz entscheidet, dass die Sicherheit seiner Stromquelle im Südwesten wichtiger ist als die Klimaanlagen, und schaltet dort mitten in einer Hitzewelle den Strom ab. Oder nehmen wir an, das KI-Radarsystem beschließt, dass es Spaß machen würde, mit der Nachtcrew zu spielen und einen ganzen Haufen nordkoreanischer Raketen auf ihre Monitore zu zaubern?

Noch besorgniserregender und unmittelbarer ist die Frage, welche Kontrollen wir an KI-Waffensystemen vornehmen sollten? Die Schlachtfelddrohnen der USA, Irans, Russlands und aller anderen nutzen KI zur Lenkung und Zielerfassung. Sollte die KI auch dazu eingesetzt werden, den Abzug zu betätigen und die Entscheidung zu treffen, eine Rakete abzufeuern? Sie treffen Entscheidungen im Bruchteil einer Sekunde viel schneller als die Menschen, die sie mit Joysticks nach Hause fliegen. Wer sollte tödliche Entscheidungen treffen: die Menschen oder die KI?

Dann ist da noch die Wirtschaft. Es ist sicherlich wahr, dass Roboter in Fließbändern Arbeiterjobs übernommen haben. ChatGPT bedroht mittlerweile auch eine ganze Reihe von Angestellten- und Berufsjobs. Wenn ChatGPT qualitativ hochwertige Rechtsberichte schreiben kann, wer braucht dann eine Rechtssekretärin? Wenn KI MRT-Scans interpretieren kann, wer braucht dann einen Radiologen? Die düsteren Beschäftigungsprognosen sind wahrscheinlich übertrieben, aber siehe beispielsweise aktuelle Studien der MIT Sloan School und des Bureau of Labor Statistics (Acemoglu, 2020; BLS, 2022).

Ein weiteres aktuelles Beispiel aus den heutigen Schlagzeilen: Hollywood-Autoren und -Schauspieler streiken und protestieren unter anderem gegen den Einzug von ChatGPT und Produktions-KI in die Filmindustrie. Warum sollten die großen Produzenten Drehbuchautoren einstellen, wenn sie einfach GPT bitten können, das Drehbuch zu schreiben? Warum Schauspieler engagieren, wenn KI den ganzen Kram produzieren kann? Werfen Sie einen Blick auf die neueste Veröffentlichung der Raiders of the Lost Ark-Reihe. Es gibt den von KI generierten Indiana Jones von vor 50 Jahren im selben Film wie den 81-jährigen Indiana Jones (Harrison Ford) von heute. Mit der KI für die Audio- und Videoproduktion können Filmproduzenten eine Besetzung zusammenstellen, die Stars von gestern wie Buster Keaton, John Wayne und Katherine Hepburn sowie die relativ jungen Tom Cruise und Meryl Streep im selben Film umfasst, alle mit ihren authentischen Stimmen, jeweils wiedergegeben durch KI in jedem von Ihnen gewählten Alter. Das Skript wurde natürlich von ChatGPT geschrieben.

Das sind ernstzunehmende Überlegungen. Wir müssen sie herausfinden, und zwar bald. Mehrere KI-Gurus haben darauf hingewiesen, dass wir nicht in der Lage sein werden, den Stecker zu ziehen, wenn die KI schlauer ist als wir. Es wird immer einen Schritt voraus sein. Es stellt immer sicher, dass es den Stecker kontrolliert.

Andererseits besteht auch die Hoffnung, dass ChatGPT uns retten könnte.

Halten. Die Evolution hat eine Spezies hervorgebracht, den Homo sapiens, die in der Lage ist, andere Denkmaschinen zu bauen. Diese Maschinen können weitaus härtere Umgebungen aushalten als wir. Sie können extreme Temperaturen, Wasser- und Sauerstoffmangel, härtere Strahlungsumgebungen, hohen Druck und Vakuum ertragen – Bedingungen, die Fleisch und Blut niemals überleben würden.

Denken Sie an die Voyager-Sonden, kleine Roboter, die vor 45 Jahren gestartet wurden und jetzt weit über den Rand unseres Sonnensystems hinaus in den interstellaren Raum segeln. (JPL, 2023.) Sie senden immer noch Signale, die uns sagen, was da draußen ist, und sie tragen eine Aufzeichnung der Menschheit, die auf einer vergoldeten Kupferscheibe eingraviert ist. Sie sind Späher und Boten, die dorthin gehen, wo kein Mensch hingehen kann. Vielleicht ist es das, was wir brauchen: Voyager-Upgrades hier auf dem Heimatplaneten.

Es gibt diejenigen, die argumentieren, und das nicht ohne Beweise, dass Menschen Haschisch aus dem Planeten Erde machen. Wir zerstören ganze Ökosysteme. Wir backen und verbrennen und ertränken unsere Verwandten. Angetrieben von den Impulsen eines Gehirns, das durch Millionen von Jahren des Überlebensmodus „Fressen oder gefressen werden“ verdrahtet ist, müssen wir nun Probleme rational lösen, sonst gehen wir zugrunde. Vielleicht können die GPTs, coolere und objektivere Denker (zumindest potenziell), existenzielle Probleme besser lösen als wir. Zumindest ist es wahrscheinlicher, dass sie auf den schwelenden Überresten unseres Planeten überleben als wir, wenn es uns tatsächlich gelingt, alle Atomwaffen zu zünden oder es gelingt, die Atmosphäre und die Ozeane so stark zu erhitzen, dass sie nicht mehr überlebensfähig sind. Vielleicht schicken sie, lange nachdem wir weg sind, sogar andere, weitaus ausgefeiltere Sonden aus, um die Galaxie zu kolonisieren und so einen menschlichen Traum zu erfüllen. Vielleicht tragen sie sogar die gesamte Geschichte der Menschheit mit sich, geschrieben in neuronalen Netzen statt auf vergoldeten Scheiben.

(Hinweis: Bob Dorsett hat alle vier Artikel dieser Serie geschrieben, nicht ChatGPT. Ehrlich gesagt. Er hat zur Veranschaulichung Zitate aus verschiedenen ChatGPT-Sitzungen eingefügt. Diese Zitate waren deutlich gekennzeichnet. Der Rest des Textes stammte von ihm. Wirklich. Gerade erst Falls Sie sich gefragt haben…)

Verweise:

Acemoglu, Daron und Pascual Restrepo. 2020. Roboter und Arbeitsplätze: Erkenntnisse aus den US-Arbeitsmärkten. Sloan School of Economics, MIT. https://economics.mit.edu/sites/default/files/publications/Robots%20and%20Jobs%20-%20Evidence%20from%20US%20Labor%20Markets.p.pdf

Büro für Arbeitsstatistik. 2022. Wachstumstrends für ausgewählte Berufe, die als durch Automatisierung gefährdet gelten. https://www.bls.gov/opub/mlr/2022/article/growth-trends-for-selected-occupations-considered-at-risk-from-automation.htm

Hinton, Geoffrey. 2023. Warum sich Geoffrey Hinton Sorgen um die Zukunft der KI macht. https://www.youtube.com/watch?v=-9cW4Gcn5WY&ab_channel=UniversityofToronto

Jet Propulsion Laboratory, NASA. 2023. Voyager-Missionskontrolle. https://voyager.jpl.nasa.gov/

Kestenbaum, David. 2023. Grüße, Menschen der Erde. Erster Kontakt. https://www.thisamericanlife.org/803/greetings-people-of-earth

VON BOB DORSETT

Speziell für die Herald Times