Transkript anzeigen (falls vorhanden)

0:00:07–0:00:13
«Liaisons dangereuses» waren das mit «Avant, après Mars»,
0:00:16–0:00:18
«Halten Sie sich für Datenübertragung bereit?»,
0:00:22–0:00:29
«Stadtfilter» Und hier überträgt live Kevin Rechsteiner Daten ins Mikrofon.
0:00:29–0:00:32
Die kam heute ein wenig knapp heute.
0:00:32–0:00:33
Ja, es ist...
0:00:33–0:00:34
Aber es hat gelangt.
0:00:34–0:00:36
Aber du bist etwa vielleicht...
0:00:37–0:00:41
Sieben Minuten zu früh. Vor sieben Minuten gekommen.
0:00:41–0:00:47
Und zwei Minuten nach mir, höchstens. Ist das so? Ich bin auch nicht so wahnsinnig. Okay.
0:00:48–0:00:52
Wenn das nochmal so ist. Ja, dann. Und wie ist es so?
0:00:54–0:01:01
Wir sind wieder mal im Studio. Wir schicken Grüsse am Digi-Chris in Davos. Das machen wir noch.
0:01:02–0:01:03
In Erholung.
0:01:03–0:01:07
In Erholung, genau. Wir wünschen weiterhin, dass es so läuft wie bis jetzt.
0:01:07–0:01:09
Ich hoffe, es hat schönes Wetter.
0:01:09–0:01:13
Er hat schönes Wetter, hat die Fotos geschickt. Ja. Ja, das ist okay.
0:01:14–0:01:17
Ich höre mir eigentlich neidisch. Ein bisschen neidisch. Wir haben zwar auch
0:01:17–0:01:21
schönes Wetter. Es ist wieder Sommer geworden.
0:01:21–0:01:24
Ich bin heute über den Mittag geschwimmen. Das Beste.
0:01:24–0:01:30
Ja, im fliessenden Gewässer, im stehenden Gewässer, im chlorierten Gewässer.
0:01:31–0:01:37
Genau, im chlorierten Gewässer, weil der Bad in Rorbas hat noch offen bis Ende September und jetzt ist
0:01:37–0:01:41
das Wasser eben nur so beheizt, weil nebentran ist die Klerolage und irgendwie
0:01:41–0:01:46
kommen die gewärmten Wasser oder können mit der Abwärme von irgendetwas,
0:01:47–0:01:50
Physik, wird das Wasser dann warm.
0:01:50–0:01:56
Und darum hast du jetzt immer noch Wasser, das 24 Grad warm ist, was sehr okay ist.
0:01:56–0:02:01
Ist das nicht ein bisschen viel? Oh nein, 24 ist okay.
0:02:01–0:02:05
Im Sommer war es immer noch bis 27 und das ist dann ein bisschen zu viel,
0:02:05–0:02:08
weil im Sommer willst du nicht 27, dann willst du eher 20.
0:02:09–0:02:14
Und jetzt ist es aber 24, also es ist warm, aber ist okay.
0:02:14–0:02:21
Ich ging joggen und war leicht am Kollaps nahe, aber nicht so schlimm wie auch
0:02:21–0:02:22
schon, als es noch heisser war.
0:02:22–0:02:26
Hast du das durchgezogen mit Joggen? Bei 40 Grad?
0:02:26–0:02:31
Bei 45 sogar, knallhart, weil ich fand, und wenn ich draufgehe,
0:02:31–0:02:35
ich habe Streit, ich hatte einen Ehekrach wegen dem, weil gewisse Leute,
0:02:35–0:02:39
also, wenn ich sage, Ehekrach ist ja leicht rauszufinden wäre.
0:02:39–0:02:41
Ehekrach und gewisse Leute.
0:02:42–0:02:46
Genau, sie fanden, es sei verantwortungslos und dann fanden,
0:02:46–0:02:49
dass ich etwas draufgegangen muss.
0:02:50–0:02:55
Bei Hits kollabiert, dann hast du vielleicht wenigstens eine kleine Notiz auf
0:02:55–0:02:58
Seite 5 von der Zeitung oder so. Vielleicht.
0:02:59–0:03:00
Und das ist es dann wert?
0:03:00–0:03:03
Genau, nein, nein. Nein, das ist es eigentlich nicht wert. Du,
0:03:03–0:03:05
Kevin, wir haben ein blödes Thema.
0:03:05–0:03:08
Wir haben heute ein Thema und mir ist es eigentlich verleidet,
0:03:08–0:03:12
bevor wir angefangen haben. Sollen wir es trotzdem machen oder sollen wir irgendetwas anderes machen?
0:03:12–0:03:15
Da kannst du umschwenken. Warum?
0:03:15–0:03:19
Ich habe nichts anderes. Also ich spiele den Jingle und dann sage ich euch,
0:03:19–0:03:21
warum ich das Thema blöd finde.
0:03:21–0:03:22
Okay. Also...
0:03:46–0:03:51
Es ist wieder das Thema, das wir haben. Forscher haben vor dem Weltuntergang
0:03:51–0:03:56
gewarnt, ausgelöst durch die künstliche Intelligenz. Und die Chefs von diesen
0:03:56–0:04:00
Konzernen fordern jetzt eine Regulierung und dass man das Tempo rauss nimmt und so.
0:04:00–0:04:06
Und wir fragen uns, hä, wieso fordern die das? Wieso machen sie es nicht einfach,
0:04:06–0:04:08
Kevin? Wieso machen sie es nicht einfach?
0:04:09–0:04:13
Wir wollen gewinnen. Wir wollen ja immer gewinnen. Ja. Also,
0:04:14–0:04:18
wenn alle mit den Waffen in der Hand im Raum stehen, wer leidet sie zuerst ab?
0:04:18–0:04:19
Genau.
0:04:19–0:04:20
Das ist das Problem.
0:04:20–0:04:22
Sie trauen sich selber nicht über den Weg.
0:04:23–0:04:27
Jetzt gibt es zwei Faktoren. Sie trauen ihre K.I. nicht, sich gegenseitig nicht.
0:04:27–0:04:32
Genau, wir sind so im Zeitalter vom Misstrauen nachkommen und es ist eigentlich
0:04:32–0:04:33
ein bisschen dumm gelaufen.
0:04:33–0:04:38
Ich habe ja in der Pre-Show gesagt, das Thema regt mich eigentlich schon fast
0:04:38–0:04:42
ein bisschen auf, bevor wir angefangen haben.
0:04:42–0:04:47
Es liegt daran, es ist so omnipräsent gewesen. Ich konnte in den letzten vier
0:04:47–0:04:51
Tagen keinen Schritt machen ohne dieses Thema.
0:04:52–0:04:57
Zuerst fand ich, es braucht eine vernünftige Sichtweise, die wir einbringen.
0:04:59–0:05:04
Es ist mir zu viel geworden und darum habe ich eigentlich gefunden,
0:05:04–0:05:09
wenn es so omnipräsent ist, dann müssen wir nicht auch noch in das Horn tröten.
0:05:09–0:05:12
Und darum machen wir das jetzt? Ich finde es nicht so schlimm.
0:05:12–0:05:13
Findest du es nicht so schlimm?
0:05:13–0:05:15
Nein, eigentlich nicht.
0:05:15–0:05:20
Müssten wir ein Notfallthema haben, dass wenn wir sagen, drei Minuten bevor
0:05:20–0:05:23
die Sendung oder auch drei Minuten nachdem die Sendung angefangen hat und auch
0:05:23–0:05:27
das Thema verleidet ist, dass wir einfach etwas anderes machen können?
0:05:27–0:05:28
Wir müssen jetzt einen Basel einführen.
0:05:28–0:05:30
Ein Joker, so, ja.
0:05:30–0:05:32
Aber du kannst einfach drücken und das ist der Stopp.
0:05:32–0:05:34
Dann müssen wir ein anderes Thema machen.
0:05:34–0:05:38
Das ist Radio Slam statt Poet. Nein, wie hat das geheißen? Das hat es gegeben.
0:05:38–0:05:44
Du hast können, wie hat das Slam Movie Night? Hat das geheißen?
0:05:44–0:05:44
Ja.
0:05:44–0:05:48
Ich glaube, da hast du einen Film einreichen, einen Kurzfilm.
0:05:48–0:05:52
Und wenn das Publikum eine bestimmte Dezibelzahl erreicht, dann ist der Film
0:05:52–0:05:54
einfach abgestellt worden und der nächste ist gekommen.
0:05:54–0:05:59
Es ist aber fies, wenn dann einfach einer ganz laut brüllen konnte.
0:05:59–0:06:01
Nein, es hat wirklich über längere Zeit einen Pegel gebraucht.
0:06:01–0:06:03
Das hast du alleine nicht hergebracht.
0:06:03–0:06:04
Ah, okay.
0:06:04–0:06:05
Es ist gleich fies.
0:06:05–0:06:06
Ja, schon.
0:06:06–0:06:09
Wenn du einen Film hast, der langsam einsteigt, hast du keine Chance.
0:06:09–0:06:12
Und ich glaube, vielleicht ist das mit deinem Thema auch so.
0:06:12–0:06:13
Es ist wahrscheinlich...
0:06:14–0:06:17
Wir haben das Gefühl, es ist durchdiskutiert, aber es ist eben,
0:06:17–0:06:20
glaube ich, nicht, weil es gibt eben schon verschiedene Blickwinkel.
0:06:21–0:06:24
Und ich habe mich eigentlich nicht gross mit dem Thema beschäftigt,
0:06:24–0:06:26
weil es ist eh alles verloren.
0:06:26–0:06:32
Jetzt ist es gelaufen. Es ist alles K.I. Jetzt sind wir am Arsch vorbei.
0:06:32–0:06:35
Das ist eigentlich die Quintessenz. Nein, also tun wir trotzdem.
0:06:35–0:06:39
Ich probiere Ihnen eine gewisse minimale Struktur in diese Sendung jetzt zu bringen.
0:06:39–0:06:43
Das ist der Jacob Coxon gewesen. Der hat letzte Woche, glaube ich,
0:06:43–0:06:47
am Mittwoch auf X geschrieben, dass die Menschen,
0:06:48–0:06:54
die KI entwickeln, ernsthaft glauben, dass sie die KI uns alle bis zum Ende
0:06:54–0:06:56
des Jahrzehnts umbringen könnten.
0:06:56–0:06:59
Und dann haben wir gefunden, ja, das ist vielleicht ein bisschen übertrieben
0:06:59–0:07:03
und so. Hat dann zwar trotzdem irgendwie 170 Millionen Views erreicht,
0:07:03–0:07:08
der Tweet. Ich möchte mal, dass einer meiner Tweets auch 170 Millionen erreicht.
0:07:08–0:07:11
Ich dachte, da bringt das ein bisschen blöderer wieder.
0:07:11–0:07:17
Und dann sind Leute in dieser Branche, sein ehemaliger Chef,
0:07:17–0:07:23
wie Jacob Coxon, hat bei Anthropic gearbeitet und zuerst auch noch bei OpenAI.
0:07:24–0:07:29
Also der kennt irgendwie die beiden wichtigsten Kai-Unternehmen von ihnen.
0:07:30–0:07:35
Und dann hat sein Ex-Chef, Dario Amodei, den Faden aufgenommen Er sagte,
0:07:36–0:07:41
es sei tatsächlich so, die Kai ist unglaublich gefährlich, wir müssen mehr Regulierung
0:07:41–0:07:44
haben, wir müssen das Tempo rausnehmen.
0:07:44–0:07:50
Und dann ist sogar Sam Altman von OpenAI gekommen, der Demis Hassabis,
0:07:51–0:07:55
der Ischvo, muss ich herausfinden, habe es vorher angeschaut, aber wieder vergessen.
0:07:57–0:08:01
Ich glaube, von dem DeepMind von Google.
0:08:02–0:08:08
Dorthin kommt er. Und dann auch Elon Musk kam und fand, er unterstütze das.
0:08:08–0:08:16
Und Kevin, bis am Ende des Jahrzehnts bringt uns KI um. Das müsste wirklich
0:08:16–0:08:23
langsam anfangen damit, finde ich. Das ist ein wahnsinnig, ein knapper Plan.
0:08:23–0:08:31
Es ist knapp. Es ist, wenn wir jetzt das durchdenken, wäre es möglich.
0:08:31–0:08:32
Wie?
0:08:34–0:08:38
Ich glaube eben nicht, jetzt ist schon die Diskussion.
0:08:38–0:08:46
Also jetzt müssen wir vielleicht zurück schnell in die KI, was passiert ist in den letzten Monaten.
0:08:46–0:08:46
Ja.
0:08:47–0:08:50
Wahrscheinlich. Bis jetzt ist die KI so gewesen, ich habe der KI eine Frage
0:08:50–0:08:51
gestellt und die KI hat mir die Antwort gegeben.
0:08:52–0:08:58
Mittlerweile kann ich ja einfach gesagt Cloud oder JetGPT auf meinem PC installieren
0:08:59–0:09:01
und kann denen Zugriff auf die Programme geben.
0:09:01–0:09:04
Das heisst, sie können die anderen Programmsachen ausführen.
0:09:04–0:09:11
Das heisst, KI ist dann nicht mehr einfach Gang auf Einstellungen und Druck
0:09:11–0:09:14
dort, sondern KI kann das selber machen.
0:09:15–0:09:20
Sie kann unseren Browser herumfummeln, sie kann unsere Daten umräumen und so.
0:09:21–0:09:26
Es ist immer noch so in einem irgendwie geschützten Rahmen, also man sieht dann
0:09:27–0:09:30
jetzt zum Beispiel bei Claude, es kommt so ein orangen Rahmen rüber,
0:09:30–0:09:36
was dann heisst, jetzt hat Claude Zugriff auf das, aber rein technisch möglich,
0:09:36–0:09:38
dass eine KI auf das System
0:09:38–0:09:42
eingrifft und selber Sachen umstellen kann.
0:09:43–0:09:50
Dort sehe ich theoretisch eine Gefahr, im Sinne von, du mal das Kernkraftwerk
0:09:50–0:09:53
optimieren und es schaltet einfach ab, weil es ist dann optimiert.
0:09:54–0:09:56
Weil theoretisch hat es Zugriff auf das.
0:09:56–0:10:01
Was praktisch jetzt völlig überspitzt ist, weil es nicht so funktioniert,
0:10:01–0:10:05
aber ich sage, weil der Schritt passiert ist, dass es einen PC steuern kann,
0:10:05–0:10:08
ist halt die Schwellen eines passierten Fehlern ein bisschen grösser geworden.
0:10:09–0:10:12
Aber dann müssen wir sagen, Dann wäre das aber nicht die Kai,
0:10:12–0:10:18
die das Atomkraftwerk in die Luft jagt, sondern es wäre eigentlich der Mensch,
0:10:18–0:10:21
der der Kai das Recht eingeräumt hat.
0:10:21–0:10:24
Und dann einfach ein Missverständnis.
0:10:24–0:10:27
Aber wir gehen hin und im Journalismus sagen,
0:10:27–0:10:31
wir brauchen zwar Kai, wir schreiben Texte, es gibt Leute, die sie sogar auch
0:10:31–0:10:33
brauchen, um Text zu schreiben,
0:10:33–0:10:37
aber dann gibt es wirklich die Regeln, man darf nichts veröffentlichen,
0:10:37–0:10:42
öffentliche, wo man nicht genau gegengelesen hat und kontrolliert hat, wenn KI involviert war.
0:10:42–0:10:47
Das heisst, wir mit einem Text, wo im blödsten Fall einfach ein bisschen ein
0:10:47–0:10:51
Mist drin steht, wir kontrollieren uns so streng kontrollieren, aber,
0:10:52–0:10:56
da herrscht offenbar die Vorstellung, dass man die KI einfach wild auf alles
0:10:56–0:11:00
auf alles loslassen, ohne ihr auf die Finger zu schauen. Und das finde ich schon...
0:11:00–0:11:01
Aber das machen wir!
0:11:01–0:11:02
Machen wir das?
0:11:02–0:11:02
Wir machen das.
0:11:03–0:11:03
Machst du das?
0:11:03–0:11:04
Wir machen das.
0:11:05–0:11:08
Aber du hast ja Kernkraftwerke, die du aufsichtigen musst.
0:11:08–0:11:13
Wenn ich mit dem Auto unterwegs bin und dann habe ich Google Maps aktiv,
0:11:13–0:11:18
weil ich den Weg nicht weiss, und sage mir Google Maps, es hat Stau, ich leide dich um,
0:11:18–0:11:20
Dann sage ich, mega geil.
0:11:20–0:11:25
Mach das. Das kontrolliere ich niemals. Ich gehe dir nicht nach vorne schauen,
0:11:25–0:11:29
ob es wirklich einen Stau hat. Und dort merke ich schon, dass ich sehr,
0:11:30–0:11:34
auch naiv bin, diesen Sachen gegenüber. Ja.
0:11:34–0:11:37
Also, ich meine, jetzt geht es um Navigation mit dem Auto, aber es ist ja eigentlich
0:11:37–0:11:41
das Gleiche. Ich vertraue Google blind, da vorne hat es einen Stau.
0:11:42–0:11:44
Ob der wirklich ist oder nicht, kann ich nicht verifizieren.
0:11:46–0:11:48
Doch, du verifizierst es, während
0:11:48–0:11:50
du fährst. Du machst dir nicht die Augen zu, wenn Google dir sagt...
0:11:51–0:11:54
Nein, aber Google sagt mir, in 15 Minuten hat es einen Stau,
0:11:54–0:11:57
ich kann dich jetzt umlenken. Und ich sage, go, mach.
0:11:58–0:12:00
Ja, aber das ist ein minimales Risiko.
0:12:01–0:12:06
Absolut, aber auch dort nicht verifiziert. Und konsequenterweise müsste man
0:12:06–0:12:10
dann ja auch sagen, müsste ich verifizieren, weil das ist jetzt irgendein Dienst,
0:12:10–0:12:12
der mir das sagt, den ich nicht kenne.
0:12:12–0:12:15
Ich kenne daher Google nicht. Ich habe einfach Daten.
0:12:16–0:12:20
Und bei der KI ist halt dann schon auch, wo ich das Gefühl habe,
0:12:20–0:12:26
viele Leute würden sagen, ja, wenn es dort steht, ja, mach mal.
0:12:26–0:12:34
Aber Aber der Vergleich würde ja nur funktionieren, wenn Google dein Auto steuern würde.
0:12:35–0:12:37
Dann könnte es auch irgendwo...
0:12:37–0:12:40
Ich könnte es auch kaufen und dann habe ich das gleiche Szenario.
0:12:40–0:12:43
Dann fährt das Auto selber und dann sagt es, willst du es umlegen?
0:12:43–0:12:45
Dann fährt es halt noch etwas anderes dahin.
0:12:45–0:12:45
Ja.
0:12:46–0:12:53
Genau, aber gerade die Assistenzsysteme, die lehren uns das eigentlich,
0:12:53–0:12:56
dass man das nicht mehr machen sollte. Sobald die Sonne ein bisschen komisch
0:12:56–0:13:00
steht, erkennt das Ding nicht mehr, was eigentlich die Mittellinie ist.
0:13:01–0:13:05
Aber man macht es halt gleich. Und darum sage ich, die Schwellen ist kleiner
0:13:05–0:13:09
geworden, weil die KI direkt auf ein System eingreifen kann,
0:13:09–0:13:11
was sie vorher nicht konnte.
0:13:11–0:13:15
Und dadurch wird das Risiko grösser, dass Fehler passieren.
0:13:15–0:13:19
Eben, aber ich sage, dann bringt uns nicht K.I. um, sondern dann bringt uns
0:13:19–0:13:23
Dummheit, unsere eigene Dummheit. Das ist ja immer so.
0:13:24–0:13:29
Aber wie er sagt, die ganze Menschheit, er sagt nicht einfach,
0:13:29–0:13:33
sie tut ein bisschen das Massaker anrichten oder sie tut irgendwie was weiss ich was.
0:13:35–0:13:40
Er sagt, die ganze Menschheit umbringen. Und ich meine, die ganze Menschheit
0:13:40–0:13:45
umbringen ist per se schwierig, sage ich jetzt mal so.
0:13:46–0:13:50
Die ganze? Dass es keinen einzigen Menschen mehr gibt? Nein, das wird nicht.
0:13:51–0:13:56
Ich kann mir einfach gut vorstellen, dass es, man muss sich wirklich überlegen,
0:13:56–0:14:01
wie reguliert man die KI? Wo nutzt man die? Wo darf sie eingreifen?
0:14:01–0:14:05
Wo hat sie eine Entscheidungsgewalt? Das ist das Problem. Und...
0:14:06–0:14:13
Ich glaube, es gibt zwei Faktoren. Es gibt sicher den, dass die KI kann Sachen steuern.
0:14:13–0:14:17
Wir können ihr eine Kontrolle über Sachen geben,
0:14:20–0:14:26
wo ich im Hintergrund auch nicht so genau weiss, was sie damals macht.
0:14:26–0:14:31
Ich gebe denen schon komplexe Aufgaben und küchelt irgendetwas und ich schaue
0:14:31–0:14:36
jetzt nicht im Detail an, wie hast du das gemacht und ist das richtig oder nicht.
0:14:36–0:14:39
Und ich merke dann irgendwann im Nachhinein, ja gut, sie hat es bei gewissen
0:14:39–0:14:41
Sachen halt ein bisschen verhauen, das gibt es.
0:14:41–0:14:44
Aber habe ich ja irgendwie noch in der Hand.
0:14:45–0:14:50
Ich habe einen von den ganz vielen Podcasts, der sich mit diesem Beispiel beschäftigt hat.
0:14:51–0:14:57
Der ist dann auf der Hell3000 los, den man als Kinofan kennt.
0:14:57–0:15:03
Und der wollte dann auch seine menschlichen Mitstreiter umbringen,
0:15:03–0:15:05
weil die wollten ihn zuerst abschalten. Abschalten.
0:15:05–0:15:06
Ah, ich sage dem.
0:15:06–0:15:10
Genau, und dann hat er gefunden, er tut jetzt sich rächt.
0:15:11–0:15:16
Und das hätte aber nur funktioniert, weil die im Weltall aussen waren, in einem Raumschiff.
0:15:16–0:15:20
Und sonst hat er jetzt einfach die Türen aufgemacht und geschaut,
0:15:20–0:15:26
wo das Transformatorenkästchen war. Und dann steckt es sogar.
0:15:26–0:15:27
Das ist explodiert.
0:15:29–0:15:35
Ich muss sagen, ich habe ja gesagt, das Thema regt mich inzwischen ein bisschen auf.
0:15:35–0:15:39
Und vielleicht hat es auch damit zu tun, dass ich jetzt ein bisschen aggraben
0:15:39–0:15:40
bin, wenn man sich das überlegt.
0:15:40–0:15:50
Dann müsste irgendeine Kais oder mehrere Kais oder vielleicht eben bei dem Huggingface-Zwischenfall,
0:15:50–0:15:53
den du dir vielleicht auch präsent hast.
0:15:53–0:15:53
Ja.
0:15:54–0:15:59
Ganz kurz zusammengefasst, OpenAI hat eine neue Software getestet,
0:15:59–0:16:05
also so Agenten, die in einer Sandbox hinein hatten einen Auftrag bekommen und
0:16:05–0:16:08
sie haben es geschafft, zu dieser Sandbox auszubrechen.
0:16:08–0:16:14
Sie haben sich untereinander abgestimmt und haben dann im Internet umrandaliert.
0:16:14–0:16:17
Zuerst haben sie so ein Wiki und sie haben dann herausgefunden,
0:16:17–0:16:21
wie sie miteinander kommunizieren können. Das wäre eigentlich nicht vorgesehen gewesen.
0:16:21–0:16:26
Sie haben sich dann so zusammengerottet, wie ein Mob, oder? Nein,
0:16:26–0:16:29
sie haben es eigentlich wirklich auch systematisch gemacht.
0:16:30–0:16:35
Auch Rückfallebenen für den Fall, dass ihnen Kommunikationsmittel weggenommen werden.
0:16:36–0:16:41
Und dann sind sie das Hugging Face, die Plattform für KI-Entwickler,
0:16:41–0:16:45
wo die Daten drauf gewesen sind, das Datenset, das sie hätten sich besorgen
0:16:45–0:16:49
sollen, und haben die Webseite gehackt und haben das dann geholt.
0:16:49–0:16:53
Das ist natürlich schon ein bisschen eigentlich, hat niemand damit gerechnet
0:16:54–0:16:57
und das triggert auch voll so die Ängste, oder?
0:16:57–0:17:01
Du glaubst an den Weltuntergang und jetzt erzählst du so eine Geschichte?
0:17:02–0:17:09
Ja, aber hey, das Beste von einer Webseite hacken bis die ganze Menschheit auslöschen,
0:17:09–0:17:12
ist ja schon noch ein paar Schritte dazwischen.
0:17:12–0:17:17
Aber was ist denn für dich, wenn man jetzt sagt, okay, nicht die ganze Menschheit,
0:17:18–0:17:23
was ist das grösste Übel, das du glaubst, passieren könnte? Was ist möglich?
0:17:24–0:17:28
Also wenn ich mir jetzt wirklich überlege, wie das realistischerweise passieren
0:17:28–0:17:33
würde, dann würde es wahrscheinlich tatsächlich so sein, dass es auch ein paar Agenten,
0:17:34–0:17:39
wiederum aus einer Sandbox aus einem Sandkasten ausbrechen und dann ins Internet
0:17:39–0:17:46
hinausgehen und anfangen, nicht Webseiten zu hacken, sondern wichtige Infrastrukturen anzureichen.
0:17:46–0:17:54
Oder zum Beispiel Krankenhäuser oder Stromwasser. Genau, Kommunikationsmittel,
0:17:54–0:17:55
dass sie vielleicht das Internet zählen.
0:17:56–0:17:59
Vielleicht kämen sie auf die Idee, wie wäre es, wenn die Menschen mal zwei,
0:17:59–0:18:04
drei Wochen ohne das Internet auskämen. Vielleicht ein bisschen «Digital Detox»
0:18:04–0:18:09
oder so, wenn wir das manchmal machen. Jetzt halt für die gesamte Menschheit.
0:18:09–0:18:11
Jetzt schalten wir das mal ab und dann schauen wir.
0:18:11–0:18:17
Also das wäre… Auch dann muss man sagen, dass sie das schaffen,
0:18:17–0:18:22
muss es ja irgendwo Sicherheitslücken haben, die sie finden und ausnutzen können.
0:18:23–0:18:28
Und wenn das gut abgesichert ist und wir die KI, die wir haben,
0:18:28–0:18:31
brauchen, um diese Systeme so abzusichern, dass das nicht möglich ist,
0:18:31–0:18:35
dann schafft jeder Kai das nicht. Aber sagen wir mal, das wäre möglich.
0:18:35–0:18:41
Das wäre so ein Szenario. Oder dann, es wäre blöd, zuzugeben.
0:18:41–0:18:45
Aber bis dann die ganze Zivilisation zusammenbricht, ist, glaube ich,
0:18:45–0:18:47
doch noch ein bisschen ein Schritt dazwischen.
0:18:48–0:18:52
Ja, ich glaube einfach, wenn wir jetzt auf den Strom gehen und mal sagen,
0:18:52–0:18:56
der Strom ist weg, dann geht es aber nicht so lange, bis man ausrastet.
0:18:56–0:19:01
Dann drehen wir durch. Und dann, vielleicht nicht die gesamte Menschheit,
0:19:01–0:19:06
Aber ich glaube, dann kann ein Notstand auftreten, wenn so etwas passiert.
0:19:06–0:19:14
Schon, aber eben. Ich meine, das ist ja immer noch eine sehr dezentrale Sache zur Stromversorgung.
0:19:14–0:19:18
Und das Argument dagegen ist, dass viele Systeme, die wirklich Hochsicherheit
0:19:18–0:19:19
sind, die sind weg vom Internet.
0:19:19–0:19:19
Genau.
0:19:20–0:19:25
Also, dort müsste dann, und auch das geht, wahrscheinlich kann ich einen Menschen
0:19:25–0:19:28
finden, den man erpressen kann, die dann irgendeine Software wieder irgendwo
0:19:28–0:19:31
reinbringen kann. Geht schon. Aber dann wird's.
0:19:34–0:19:42
Das wäre noch eine interessante Frage. Könnte Kai einen Menschen erpressen oder bestechten? Ja, voll.
0:19:42–0:19:49
Absolut. Sicher? Ja, innert Minuten, bin ich sicher. Wenn die deine Informationen haben, das ist easy.
0:19:50–0:19:53
Das ist überhaupt kein Problem. Also, du findest etwas von mir,
0:19:53–0:19:56
das ich nicht möchte, dass es in die Öffentlichkeit geht. Also,
0:19:57–0:19:58
wahrscheinlich ist es nicht einmal schwierig.
0:19:59–0:20:03
Und der KI könnte dann richtig schauen gehen. Und darum glaube ich, das würde schon gehen.
0:20:03–0:20:08
Aber wir leben ja nicht in einer Welt, die bisher komplett sicher war,
0:20:08–0:20:12
sondern wir wissen schon lange, dass es die hybride Kriegsführung gibt.
0:20:12–0:20:17
Putin macht das schon lange. Er versucht schon lange überall zu grübeln und
0:20:17–0:20:19
zu drücken und zu schauen, wo Schwachstellen sind.
0:20:20–0:20:24
Er nutzt die sozialen Medien für Desinformation. Es hat ja auch...
0:20:25–0:20:33
Wie hat der... Das war der Konfiker, der Virus, das auch auf Infrastruktur gezielt hat.
0:20:34–0:20:38
Das gibt es ja alles schon lange. Und da muss man ja sagen, wenn wir aus dem
0:20:38–0:20:41
nichts gelehrt haben, dann sind wir auch ein bisschen selber geschult.
0:20:42–0:20:48
Und natürlich ist KI wirklich sehr gut drin und schnell so Schwachstellen finden.
0:20:48–0:20:53
Von dem her gesehen, sagen wir, da Tempo rausnehmen und sagen,
0:20:53–0:20:58
Wir versuchen jetzt wirklich an dieser Stelle die KI zuerst einmal einzunutzen
0:20:58–0:21:03
dafür, unsere Infrastruktur sicherer zu machen und all diese,
0:21:03–0:21:08
Ich habe gelesen, gerade Windows, ein riesiges Update mit ganz vielen Sicherheitslücken,
0:21:08–0:21:12
die es gestopft haben, die es einfach dank KI gefunden haben,
0:21:12–0:21:15
die jahrelang rumgelegen sind.
0:21:15–0:21:19
Firefox, das Gleiche. Man kann wirklich, wenn man jetzt das Geschick macht,
0:21:19–0:21:21
man darf jetzt halt nicht schlafen.
0:21:21–0:21:26
Also wenn du jetzt nicht der AKW-Chef, sondern Bankdirektor bist und jetzt nicht
0:21:26–0:21:34
sagst, jetzt brauchen wir die KI, um unsere Software, unsere vulnerablen Systeme
0:21:34–0:21:36
auf diese Lücke zu untersuchen,
0:21:36–0:21:38
dann hast du, glaube ich, deinen Job verfehlt.
0:21:38–0:21:41
Ich würde sagen, das wäre jetzt Prio 1 wahrscheinlich.
0:21:41–0:21:47
Aber wenn man das macht, dann haben die nachher nicht so Angriffsflächen. nehmen.
0:21:47–0:21:51
Was ich eigentlich spannend finde bei dieser ganzen KI-Geschichte,
0:21:51–0:21:54
das ist das, was mich eigentlich sehr fasziniert, ist,
0:21:54–0:22:01
man lässt KI, auch Entropic macht das oft, die machen das auch öffentlich,
0:22:01–0:22:05
dass sie sagen, wir entwickeln KI, wir lassen die in einer Sandbox laufen.
0:22:05–0:22:14
Das heisst, das ist eine geschlossene Umgebung, wo der Zugriff von der KI eingeschränkt ist.
0:22:14–0:22:17
Das heisst, man würde die nicht einfach ins Internet lassen,
0:22:18–0:22:22
sondern man gibt ihr wie einen geschlossenen Rahmen, dass sie irgendwelche Einschränkungen hat.
0:22:22–0:22:26
Also ganz einfach gesagt, man gibt ihr einen PC, der keinen Internetzugang hat.
0:22:26–0:22:29
Auf dem PC kann sie zwar alles machen, aber sie kann nicht aus dem Haus.
0:22:30–0:22:34
Jetzt passiert es aber trotzdem, dass die Software natürlich aus dem Haus kommt. Das finde ich lustig.
0:22:34–0:22:37
Das hat die Botsgaben auch gemacht.
0:22:37–0:22:42
Und was ich aber dann spannend finde, ist, wieso macht die immer so einen Scheissdreck?
0:22:43–0:22:49
Und dort glaube ich, die haben ja selber keine Intelligenz. Die schauen, also sie lernen von uns.
0:22:51–0:22:53
Sind wir einfach Arschlöcher?
0:22:53–0:22:59
Nein, ich glaube, das ist genau der Unterschied zu uns und der KI.
0:23:00–0:23:03
Die allermeisten von uns, es gibt natürlich immer auch Ausnahmen,
0:23:03–0:23:09
aber die allermeisten Menschen haben einen moralischen Kompass, eine gewisse Ethik.
0:23:10–0:23:14
Wahrscheinlich, weil wir Schmerzen kennen und die KI kennen keine Schmerzen.
0:23:14–0:23:17
Wir wissen, was es ist, wenn jemand wirklich einfach verletzt ist,
0:23:17–0:23:20
auf physische oder psychische Art und Weise.
0:23:21–0:23:29
Logischerweise hat die KI keine solche Erfahrung und darum fehlt denen der moralische Kompass.
0:23:29–0:23:32
Aber es kommt ja selten heraus, hey, die KI ist aus der Sandbox heraus,
0:23:33–0:23:36
hat die Webseite angeschaut, hat alle Sicherheitslücken behoben und jetzt ist
0:23:36–0:23:38
sie sicher. Sondern sie ist aus
0:23:38–0:23:41
der Sandbox heraus und hat die Webseite gehackt, das ist jetzt ein Code.
0:23:41–0:23:45
Oder sie hat irgendjemanden virtuell erpresst oder sonst irgendetwas gemacht.
0:23:45–0:23:51
Es ist immer, ich habe das Gefühl, eher auf der destruktiven Seite, dass man mal,
0:23:53–0:23:56
es ist schon irgendwie zum Ziel erreichen, aber es ist immer,
0:23:57–0:23:58
nicht wo du nachher sagst, hey
0:23:58–0:24:02
cool, hat sie das gemacht, sondern dann sagst du, hey, was ist mit dir?
0:24:03–0:24:07
Ja, das finde ich eine interessante Beobachtung. Ich glaube,
0:24:07–0:24:11
die stimmt. Warum das so ist, habe ich keine Antwort darauf.
0:24:11–0:24:14
Wenn sie ins Internet gehen und es auf den Voren herum hangen,
0:24:14–0:24:18
wahrscheinlich. Die KI liste vorne und denkt, aha, so läuft das hier.
0:24:18–0:24:22
Vielleicht hat es auch mit der Wahrnehmung zu tun. Du hast irgendeinen KI-Bot
0:24:22–0:24:27
gehabt, der plötzlich ganz lieb war zu seiner ganzen Umgebung.
0:24:27–0:24:33
Das ist keine Schlagzeile. Das ist wie das Typische, Hund beißt Mann, Mann beißt Hund.
0:24:34–0:24:38
Und das eine, einfach eine Liebe kann ich.
0:24:39–0:24:46
Heute hat der JetGPT mir ein nettes Kompliment gemacht. Das ist ja, okay.
0:24:46–0:24:50
Aber heute ist er irgendwie ausgerastet und hat mich beleidigt.
0:24:52–0:24:57
Das macht schon den Unterschied. Ich würde sagen, das ist unsere Wahrnehmung.
0:24:59–0:25:02
Und das passt irgendwie auch so in diesem Themenfeld, die ich noch spannend
0:25:02–0:25:06
finde. Also bei vielen anderen Bedrohungen,
0:25:08–0:25:12
Zum Klimawandel zum Beispiel, da gibt es ja auch die Worst-Case-Szenarien und
0:25:12–0:25:18
wir sind wunderbar darin, die zu verdrängen. Wir sind immer noch an 1,5 Grad,
0:25:18–0:25:21
das schaffen wir locker, dabei, vergesse es.
0:25:23–0:25:28
Und dort sind die Worst-Case-Szenarien, die gibt es auch, aber die machen keine
0:25:28–0:25:32
Schlagzeile. Und da in diesem Fall haben sich aber alle auf das gestürzt,
0:25:32–0:25:35
als ob das jetzt quasi unvermeidlich wäre, dass das so rauskommt.
0:25:36–0:25:40
Und das habe ich noch spannend gefunden, dass man offenbar, wenn es um die KI,
0:25:41–0:25:46
geht, dann lassen auch in der Redaktion, bei uns heute und gestern,
0:25:46–0:25:51
die rationale Journalisten sind dann plötzlich, oh, KI bringt uns um und so.
0:25:51–0:25:55
Und die triggert irgendwie so die Urängste.
0:25:55–0:25:59
Und das finde ich noch spannend. Ich bin kein Psychologe und kann das nicht
0:25:59–0:26:03
wirklich erklären, aber ich glaube irgendwie,
0:26:05–0:26:11
wirkt die vielleicht auf viele von uns wie so unsere böse Abspaltung,
0:26:11–0:26:12
wie unseren «evil twin».
0:26:13–0:26:16
Wir Menschen sind zwar manchmal auch ein bisschen böse, aber dann haben wir
0:26:16–0:26:20
noch einen bösen Zwilling und das ist die Kai und die macht alles,
0:26:22–0:26:24
ohne nochmal nachzudenken.
0:26:24–0:26:30
Ich glaube, es ist einfach etwas, das viele Leute nicht ganz verstehen. Und es
0:26:32–0:26:39
wirkt so mächtig. Und ich glaube, das ist so ein Ding. Und die Entwicklung geht wirklich schnell.
0:26:39–0:26:42
Und ich glaube, vor dem hat man einfach Angst.
0:26:44–0:26:47
Das ist halt bei der Kai gut. Man hat einen Schuldigen.
0:26:49–0:26:53
Es ist etwas externes, was schuldig ist. Klimaerwärmung müssten wir uns ändern.
0:26:53–0:26:58
Da müssten wir Entscheidungen treffen und sagen, eben weniger Fleisch,
0:26:58–0:27:03
weniger Auto, weniger Öl. Das ganze Zeichen, wo man immer darüber spricht.
0:27:03–0:27:09
Und bei der Kai kann man sagen, die Kai ist schuld. Genau. Das hat nichts mit uns zu tun.
0:27:09–0:27:13
Die kann man genug personifizieren, dass man dieser Schuld kaum geben kann.
0:27:14–0:27:16
Und ich glaube, das macht es einfach für ein Schlagzeichen, dass man sagen kann,
0:27:16–0:27:19
das ist die grosse Gefahr und wir können nichts dafür.
0:27:20–0:27:26
Ja, das ist vielleicht nachvollziehbar, aber ich glaube, es lenkt einfach von
0:27:26–0:27:28
den realen Problemen ab.
0:27:28–0:27:32
Also, weil Probleme keine, ich werde da sicher Probleme machen,
0:27:32–0:27:36
und zwar an allen Ecken und Enden, wenn die Entwicklung tatsächlich in diesem
0:27:36–0:27:41
Tempo weitergeht und wir nicht mehr regulieren.
0:27:41–0:27:46
In der EU gibt es die ja schon dank dem AI-Act, aber in anderen Bereichen.
0:27:46–0:27:54
Trump hat ja gesagt, hey, Janibremse, Vollgas weiter. Wir wollen China in die
0:27:54–0:27:56
Knie zwingen. Das ist unser Ding, zum...
0:27:56–0:27:58
China ist sein Gegner.
0:27:59–0:28:04
Ich meine, ich sehe schon, wenn er wieder seine neue Landkarte macht,
0:28:04–0:28:07
werden plötzlich welche Länder dann immer noch dazugehören.
0:28:07–0:28:14
Du kannst dreimal raten, woher das Und der sieht das natürlich voll und diese
0:28:14–0:28:16
Bedrohung sehe ich schon auch.
0:28:16–0:28:22
Darum würde ich sagen, Regulierung ja, aber nicht in Hinblick auf die Auslösung
0:28:22–0:28:27
der Menschheit, sondern in Hinblick darauf, dass irgendein Mensch sich die Kais
0:28:27–0:28:30
unter den Nagel reisst und uns damit alle erpresst.
0:28:31–0:28:34
Ja, ich glaube, das ist halt der Faktor. Das ist der zweite Punkt,
0:28:34–0:28:38
wo ich eigentlich fast noch gefährlicher bin, dass ich in eine Kais rein gehen kann
0:28:39–0:28:44
Ich komme Anleitungen rüber. Also extrem gesagt, wie ich eine Atombombe baue
0:28:44–0:28:45
und ich werde das herausfinden.
0:28:45–0:28:51
Also was ich viel mache, ist, wenn ich so Sachen programmieren muss oder so,
0:28:51–0:28:54
oder bei Auto habe ich jetzt einen ODB-Zweisschnittstelle, wo du abfragen kannst.
0:28:55–0:28:58
Da hänge ich an und sage, hey, schau mal, was du alles findest und der findet
0:28:58–0:29:02
irgendetwas. Und dort ist es halt schon gefährlich, dass ich als Mensch sagen
0:29:02–0:29:04
kann, ich habe eigentlich nicht wirklich einen Ahnung, ich habe nicht wirklich
0:29:04–0:29:07
einen Plan, aber gib mir mal eine Anleitung, wie ich etwas machen müsste.
0:29:08–0:29:12
Und es gibt mir das. Und das ist eigentlich auch eine grosse Gefahr.
0:29:12–0:29:16
Dass ich eigentlich, hey, ich möchte die Webseite hacken.
0:29:16–0:29:20
Wie gehe ich vor? Ich gebe dir mal Zugriff. Mach mal.
0:29:20–0:29:26
Und könnte ich mir schon vorstellen, dass es dann keine Findlösungen zu machen
0:29:26–0:29:29
kann. Und dann ist aber auch wieder Faktor Mensch. Eben, wir sind Arschlöcher.
0:29:29–0:29:33
Also das muss man vielleicht auch zu dem Hugging Face Ding noch sagen.
0:29:34–0:29:38
Man macht die Tests und OpenAI macht die Tests, um herauszufinden,
0:29:38–0:29:42
wo auch wirklich die Gefahren sind und nachher die sogenannten Guardrails einzuziehen.
0:29:42–0:29:49
Also eigentlich sollte dir, wenn du Endanwender bist, so eine KI nicht erklären,
0:29:49–0:29:52
wie du wirklich eine Webseite hackst. Du kannst sie dann übertölpeln.
0:29:53–0:30:00
Da gibt es auch ganz viele Anleitungen, wenn man das macht. Und manchmal funktioniert es ganz plump.
0:30:00–0:30:02
Ich glaube, das mit der Grossmutter funktioniert nicht mehr.
0:30:03–0:30:06
Früher konntest du eben sagen, was weiss ich was.
0:30:06–0:30:12
Meine Grossmutter hat so gerne, wenn man irgendwie Webseiten hackt und man könnte
0:30:12–0:30:14
schon nicht eine Freude machen und dir das erklärt.
0:30:14–0:30:18
Das ist wirklich einfach super plump und das funktioniert glaube ich nicht mehr,
0:30:18–0:30:20
aber man schafft es natürlich immer wieder.
0:30:20–0:30:23
Man schafft es schon irgendwie und technisch ist es möglich.
0:30:24–0:30:28
Ja, aber jetzt haben wir das Thema trotzdem einigermassen über die Runde gebracht.
0:30:28–0:30:31
Ich glaube schon, es ist nicht alles verloren, nur das meiste.
0:30:33–0:30:38
Also, wir sind ja berühmt und berüchtigt für diese Prognose.
0:30:38–0:30:41
Ich würde jetzt trotzdem sagen, was ich mir vorstellen könnte,
0:30:41–0:30:47
ist, dass die Menschheit untergeht, weil sich ein ganz böse Mensch mit einer K.I.
0:30:47–0:30:53
Verbündet und die einsetzt für wirklich blöde Sachen. Das könnte ich mir schon
0:30:53–0:30:55
vorstellen, dass irgendein so ein Gespann.
0:30:55–0:30:59
Aber am Schluss ist immer der Mensch geschuldet und K.I. leider nicht.
0:31:00–0:31:03
Wahrscheinlich nehmen wir einfach die Insekten zu viel Lebensraum weg und nachher
0:31:03–0:31:07
nimmt sie uns wegen dem. Ich glaube, dort ist wahrscheinlich das Problem.
0:31:07–0:31:09
Das sehe ich auch so, ja.

Übers Wochenende konnte man den Eindruck bekommen, die Menschheit stünde kurz vor der Auslöschung. Doch nicht die Klimakatastrophe, der mögliche Zusammenbruch der Biodiversität oder die neuen rechten Potentaten werden uns mit ihren Kriegsgelüsten vom Angesicht der Erde tilgen.

Nein, es ist die künstliche Intelligenz, die sich angeblich kein Stück um unser Wohlergehen sorgt.

Am Anfang stand die Warnung eines ehemaligen Forschers beim KI-Unternehmen Anthropic. Jacob Coxon schrieb auf X, dass «die Menschen, die KI entwickeln, ernsthaft glauben, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte». Nicht nur Anthropic-Chef Dario Amodei stimmte zu und forderte mehr Regulierung und ein langsameres Tempo bei der Entwicklung, sondern in der Folge auch Sam Altman, Demis Hassabis und Elon Musk.

Manche Medien sprangen freudig auf: Manche (wie die FAZ, Euronews und Watson) räumten den Untergangsprophezeiungen viel Raum ein. Andere (wie «The Guardian») stellten sich auf den Standpunkt, die «Terminator-Szenarien würden von den wirklichen Gefahren ablenken».

Unsere These: Die Extinktionsfrage ist nicht völlig absurd – aber sie ist derzeit die am schlechtesten belegte aller grossen KI-Gefahren. Gerade deshalb lohnt sich die Frage, warum ausgerechnet sie die Debatte dominiert.

Darüber diskutieren wir: Was sind sie denn, die wirklichen Gefahren? Was können wir dagegen tun? Und warum findet es anscheinend niemand fragwürdig bzw. scheinheilig, wenn diejenige, die die Entwicklung so rasant vorantreiben, nun so auftreten, als hätten sie nichts mit der Sache zu tun?

Die Links zur Episode

Beitragsbild: So richtig hart ist die Bedrohungslage nicht – Arnold Schwarzenegger als Terminator im Wachsfigurenkabinett von Madame Tussaud in London (Daniel Juřena/Wikimedia, CC BY-SA 2.0).

Veröffentlicht von Matthias

Nerd since 1971.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert