Bullshit ist ein Feature, kein Bug

robot

„Ein Beispiel dafür wäre etwas, was in der Biologie fast immer hilfreich ist: mehr Energie zu erhalten. „Das erste, was passieren könnte, ist also, dass ein solches System sagt: ‚Wir brauchen mehr Energie. Lasst uns den ganzen Strom zu meinen Prozessoren umleiten.‘ Ein weiteres großes Unterziel wäre dann, mehr Kopien von sich selbst zu machen. Hört sich das für Sie gut an?“ (aus William Hertling: Singularity – via Heise-Forum)

robot

Ich darf das roboteraffine Publikum auf einen Heise-Artikel über Geoffrey Hinton aufmerksam machen (leider Paywall). „Warnt vor Gefahren“ ist natürlich langweilig, das hat schon Stanislaw Lem getan, vor allem in Ananke, vor mehr als einem halben Jahrhundert. Die „Gefahr“ ist eher, so Lem, dass die Geschöpfe der Robotik uns ähnlicher sind bzw. sein werden als zu wünschen wäre. (Was sagt KI zum Ukraine-Krieg?)

^{Geoffrey Hinton, credits: playgroundai.com}

Hintons Sicht der Dinge wurde maßgeblich von der neuen Generation großer Sprachmodelle verändert, insbesondere GPT-4 von OpenAI, das im März heraus kam. Es habe ihm klar gemacht, dass Maschinen auf dem Weg sind, viel schlauer zu werden, als er dachte, sagt er. Es beunruhigt ihn, wie sich das entwickeln könnte. „Diese Dinger sind völlig anders als wir“, sagt er.“

Das wage ich aus philosophischer Sicht zu bezweifeln. Der Mensch hätte, wenn KI – in welcher Form auch immer – so anders wäre als er selbst, unbewusst etwas geschaffen, dass er dann auch nicht verstehen könnte. (Darüber muss ich noch nachdenken. Was sagt Hegel?)

Das Ziel sind selbst lernende neuronale Netze. Die sind aber nicht anders als das menschliche Gehirn, nur ausgelagert, wie jedes andere Werkzeug auch.

robot

„Unsere Gehirne haben 100 Billionen Verbindungen“, sagt Hinton. „Große Sprachmodelle haben bis zu einer halben Billion, höchstens eine Billion.“ Doch GPT-4 wisse Hunderte Male mehr als jeder Mensch.“

„Wissen“ ist aber nur ein technisches Problem. Hätte ein Mensch in einer Nanosekunde alles im Internet vorhandene Wissen zur Hand, wäre er genau so schlau. Das Problem ist doch eher, wie man damit umgeht und wie man es einordnet.

Hal, stelle mir alle verfügbaren Quellen zusammen, die den Übergang von der Sklavenhaltergesellschaft zum Feudalismus ökonomisch erklären, insbesondere die Spezifik, warum ein Zusammenhang bestehen könnte zur Herausbildung des spezifische Kapitalismus in Nordwesteuropa. Oder: Hal, gibt es Klassenkampf im 中国特色社会主义)?

robot

Bullshitting sei ein Feature, kein Bug. „Menschen konfabulieren immer“, sagt er. Halbwahrheiten und falsch erinnerte Details seien Kennzeichen der menschlichen Konversation: „Konfabulation ist ein Merkmal des menschlichen Gedächtnisses.“ Diese Modelle machten damit, sagt Hinton, etwas genauso wie Menschen. Der Unterschied bestehe darin, dass Menschen normalerweise mehr oder weniger korrekt konfabulieren. Das Erfinden sei nicht das Problem. Computer brauchen einfach ein bisschen mehr Übung.

robot

Meine zwei Cents dazu: KI wird den Kapitalismus revolutionieren wie schon das Internet, ihn aber nicht abschaffen. Roboter sind Teil der Produktivkräfte, nicht mehr. Aber vielleicht gibt es ja doch eine Überraschung, wenn der erste Roboter anfängt, Karl Marx zu lesen…

Mai 4, 2023 | abgelegt unter Economy, Science

Kommentare

7 Kommentare zu “Bullshit ist ein Feature, kein Bug”

Juri Nello am Mai 4th, 2023 9:22 pm

Die Entwicklung in den Bereichen dürfte, wie üblich, zunächst in der Tötungsindustrie stattfinden, während der Pöbel sich mit deren Abfallprodukten rumschlagen darf.
Godwin am Mai 4th, 2023 10:18 pm

was soll der Terminator denn lernen, wenn er Marx liest?

ebenfalls mal philosophisch (politische Theorie) gefragt:
Wann würde denn der Kapitalismus aka die kapitlistische Produktionsweise (oder sind das für die zwei verschiedene Dinge?) aufhören zu existieren?
Die Frage sollte ja mal geklärt werden, wo quasi der (richtige) Kipppunkt überhaupt ist, zu dem man hinarbeiten will…

Wenn CDU-Vize Linnemann (WTF??) Arbeitspflicht und Aktivrente wieder einführen will, dann kommen wir ja bald wieder in feudale oder gar sklavenhalterische Verhältnisse…

btw – kennt hier jemand Agnolis „Transformation der Demokratie“??
stand während meines Studium auf meiner To-Read-Liste. Dabei blieb es dann aber auch immer…

Grundsätzlich hinderlich für jedewede Bestrebung am Status Quo zu rütteln, bleibt ja der Umstand, dass „das Volk“, „die Masse“ gar nicht so wirklich am Status Quo gerüttelt haben will.
Veränderungen machen Angst, sind unpopulär.
Siehe aktuell Klima-Kleberei.
Die könnten so erfolgreich werden, wie es die Stadt-Guerilla gern gewesen wäre…
Die TAZ fragte „Reaktionen auf Letzte Generation: Woher kommt der Hass?“
ja – woher wohl?

Bei Marx dreht sich ja vieles ums Eigentum.
Genossenschaften sind so eine Sache.
AGs wären ja auch möglich.
Man stelle sich aber mal vor, jeder kauft Aktien – vielleicht sogar die „richtigen“ – weil Grundwissen Wirtschaft wieder auf dem Lehrplan steht.
Volkseigentum verwirklicht.
Alle reich?
vermutlich dann doch nicht…
Im Gegenteil – man stelle sich vor, die Aktien crashen.
Alle pleite.
Wer Übernimmt die Verantwortung?
Die Die Schilda-Response GmbH?

Wie kann ohne „Geld“ ein „faier“ Handel, also (Aus-)Tausch stattfinden?
Wie kann ohne Kapital-Zirkulation
Geld – Ware – (mehr) Geld
eben mehr Geld produziert werden, welches zum (Aus-)Tausch benötigt wird. Sonst stockt es…
blu_frisbee am Mai 5th, 2023 2:47 am

Menschen lesen aus Zufall Muster. Sterne haben Namen und benannte Bilder + Geschichten.

ChatGPT ist stochasticher bullshit-Papagei. Es wird trainiert an menschlichem bullshit im Netz.
Kostet schweinemäßig Strom. Nur reiche können.

Früher konnt man ohne Mathe nicht philosophieren.
Heut sind Dunning-Krugers stolz daruf keine Mathe zu können. Das Unentscheidbarkeitstheorem von Kurt Gödel ist unbekannt.

Am Ende werden in leeren Foren Chatbots sich miteinander unterhalten. Sehr sinnhaft.
Fünf Leute diskutierten ne Nazi-Veranstaltung, hielten sich gegenseitig für echte, 4 waren von Staatsdiensten. Echt passiert.
Mimi am Mai 5th, 2023 3:36 pm

Was bedeutet KI?

Bevor man den Begriff verwendet, sollte man ihn definieren.

Kollektive Inkompetenz?
nh am Mai 5th, 2023 5:15 pm

Nach 2.0, 3.0 und 4.0, Blockchain und Cloud ein neues Buzzing.
KI ist if->then->else.
Gabs schon aufm C64, nannte sich Eliza.
The next HOT SHIT um Leuten Geld aus der Tasche zu leiern.
ChatGPT ist eine Methode aus einer Datenbank eine Fouriersynthese zu betreiben.
Nur wer die Datenbank füllt…
blu_frisbee am Mai 6th, 2023 1:22 pm

Expertensystem war PROLOG mit Maschinenbegriff Resolventenkalkül.
https://de.wikipedia.org/wiki/Prolog_(Programmiersprache)

ChatGPT ist neuronales Netz mit Maschinenbegriff gekoppelte Differentialgleichungen.
https://www.youtube.com/watch?v=aircAruvnKk

nh ist Trollbot. Nix a Ahnung aber laut Blödsinn.

Ärger. Muß mal gesagt werden.
nh am Mai 6th, 2023 5:15 pm

Nicht ärgern, schön nachbeten.
Bei jedem System auf maschineller Basis kommt am Ende nur das raus, was vorher eingefüllt wurde, egal wie komplex die Verbindungen sind.
Differentialgleichungen in einem Hirnsimulator, interressant. Dann leiten Sie mal Funktionen ab, wo keine sind. Vor allem Verstand.
Der Datensatz kann noch so gross sein und die Revokation noch so ausgefeilt, dass es einem Bitcoin nachkommt.
Der ganze Schmonzes eignet sich wunderbar dazu, Unliebsames zu filtern und eine virtuelle Realität zu generieren.
Was ja auch schon praktiziert wird.
Fragen Sie mal GPT wer Sie sind und was Sie hier sollen.
-Du wirst arm, aber glücklich sein-