Exordium & Terminus

^{symbolic eery picture of artificial intelligence ::nuclear waste glow::1 metallic::1 defocus::-0.5 –v 4 –quality 2 –chaos 100 –s 750}

Wir werden alle störben.
In the year 2525, if man is still alive
If woman can survive, they may find
In the year 3535
Ain’t gonna need to tell the truth, tell no lie
Everything you think, do and say
Is in the pill you took today
In the year 4545
You ain’t gonna need your teeth, won’t need your eyes
You won’t find a thing to chew
Nobody’s gonna look at you
In the year 5555
Your arms hangin‘ limp at your sides
Your legs got nothin‘ to do
Some machine’s doin‘ that for you
In the year 6565
You won’t need no husband, won’t need no wife
You’ll pick your son, pick your daughter too
From the bottom of a long glass tube
In the year 7510
If God’s a coming, He oughta make it by then
Maybe He’ll look around Himself and say
Guess it’s time for the judgment day… (Zager & Evans, 1969)

^{Wieso komme ich eigentlich mit Tor hinter die Paywall der New York Times? Ist das ein Bug oder ein Feature?}

Die New York Times gibt die Kassandra: „How Could A.I. Destroy Humanity? Researchers and industry leaders have warned that A.I. could pose an existential risk to humanity. But they’ve been light on the details.“

Bevor es weitergeht, studieren wir kurz Evolutionäre Entwicklungsbiologie und Kosmologie und kommen dann hierher zurück und stellen die Frage: Kann die Menschheit sich überhaupt selbst auslöschen? Oder verbieten das die Naturgesetze? Es wäre unlogisch, wenn Survival of the Fittest bedeutete, dass die so genannte Krone der Schöpfung jetzt abgemurkst würde und dafür die Blattodea das Ruder übernähmen und dann irgendwann den Kapitalismus und die Raumfahrt einführten?

^{eery portrait of Kassandra daughter of Troy king Priamos predicting the future, ominous, ultarealistic –s 750}

One day, the tech industry’s Cassandras say, companies, governments or independent researchers could deploy powerful A.I. systems to handle everything from business to warfare. Those systems could do things that we do not want them to do. And if humans tried to interfere or shut them down, they could resist or even replicate themselves so they could keep operating. (…) Today’s systems are not anywhere close to posing an existential risk,” said Yoshua Bengio, a professor and A.I. researcher at the University of Montreal. “But in one, two, five years? There is too much uncertainty. That is the issue. We are not sure this won’t pass some point where things get catastrophic.

Man weiß nichts, und deshalb sollte man besser nichts tun? Bisher sieht es doch nicht so aus, dass eine Gattung, die erfolgreich war, sich selbst abschüfe. Künstliche Intelligent ist nur ein Werkzeug, wie ein Hammer oder auch ein Rechner. Organisch basierte Funktionen des menschlichen Körpers werden outgesourct. Das riecht nach Effizienz, nicht nach Suizid.

The worriers have often used a simple metaphor. If you ask a machine to create as many paper clips as possible, they say, it could get carried away and transform everything — including humanity — into paper clip factories.

^{So könnte ein Denkmal für den Homo sapiens aussehen, gebaut von einem Roboter in the year 2525.}

„At some point, it would become clear that the big machine that is running society and the economy is not really under human control, nor can it be turned off, any more than the S&P 500 could be shut down,“ he said.

Ach was. Die Menschheit heute kapiert noch nicht einmal die eigene Ökonomie, sondern macht sich pseudo-religiöse Ideen davon. Wenn KI alles übernehmen würde, gälte dann noch der tendenzielle Fall der Profitrate? Das heißt: Die Roboterbosse würden die Löhne für ihre Roboterarbeiter kürzen und denen zu streiken verbieten?

The idea is to give the system goals like “create a company” or “make some money.” Then it will keep looking for ways of reaching that goal, particularly if it is connected to other internet services.

Großartig! Was ist, wenn die KI dann plötzlich als Produktionsverhältnis die Sklavenhaltergesellschaft einführt oder den Kommunismus empfiehlt? Ich finde das alles sehr lustig.