KI außer Kontrolle? Wie der Hacker-Hype die Welt verrückt macht

00:00:03: Hallo und herzlich willkommen zu einer neuen ja im Grunde schon ersten Folge von Hype und Haltung, denn wir haben einen kleinen Namenswechsel vorgenommen.

00:00:12: Und auch ein paar inhaltliche Anpassungen will heißen unser KI-Podcast erscheint ab sofort immer am letzten Freitag des Monats damit wir noch tiefer in Themen eindringen können.

00:00:22: Hype & Haltung der Name ist Programm.

00:00:25: mein Name ist Fabian Peters.

00:00:26: ich bin Chef Redakteur des Online Magazines Basic Thinking und wie immer nicht allein Denn manche Sachen Bleiben gleich zum Glück.

00:00:33: Ich freue mich, mein Kollege Andre Gabriel ist auch bei Hype und Haltung dabei!

00:00:37: Hi ja ich freue mich auch erstmal auf die neue Ausrichtung des Podcasts und natürlich dass sich das Personell jetzt hier nicht geändert hat.

00:00:45: Genau das freut mich auch außerordentlich.

00:00:47: bevor wir zu unserem Hauptthema kommen dem Heckerhype rund um KI an dem man ja oder man will oder nicht aktuell kaum vorbeikommt.

00:00:54: kurz ein Wort zu unserem heutigen Sponsor denn Diese Ausgabe wird präsentiert von Ibexer.

00:01:01: Ibexa hat dieses Jahr bei der DieMexico eine neue Agentik-Marketing-Plattform vorgestellt, das ist eine zentrale Plattform in der KI-Agentenaufgaben im bestehenden Marketingstack wirklich auch ausführen statt nur Vorschläge zu machen.

00:01:14: die Plattform verbindet Tools und Kontext damit Kampagnen schneller live gehen und besser steuerbar werden.

00:01:20: Informationen dazu Wie unser Erlebnis bei eBexer auf der DMEXCO war und den Link direkt zur Agentik-Marketin-Plattform findest du in den Shownotes und der Beschreibung.

00:01:31: Ja, dann kommen wir – ich habe es schon angeteasert zu unserem Hauptthema dem großen KI Hackerhype!

00:01:39: Bist du glaube ich auch nicht dran vorbeigekommen?

00:01:41: oder wie geht's dir da?

00:01:43: Also wenn man sich nicht ganz verschließt vor diesen Themen Absolut nicht drin vorbei.

00:01:48: Ist

00:01:48: ja medial auch überall, ne?

00:01:49: Nicht nur in irgendwelchen Fachmagazin-Tageschau, Tagesthemen, RTL... Überall ist mittlerweile KI!

00:01:55: Ja und wir gingen das eigentlich so los im Sommer.

00:01:58: irgendwann fing das so langsam an.

00:02:00: da hat glaube ich als allererstes Anthropic eingeräumt dass da ein KI Agent oder mehrere KI Agenden irgendwie aus einer Test Umgebung ausgebüxt sind.

00:02:10: Unmittelbar danach ging das Schlag auf Schlag.

00:02:12: Dann hat OpenAI dann Meta, Google mehrere KI-Anbieter aus China haben alle Sicherheitsfälle eingeräumt und es ging wie gesagt grob immer darum dass irgendwelche Agenten aus Testumgebung ausgebrochen sind und sich mehr oder weniger einen Zugang zum freien Internet verstarft haben obwohl die das eigentlich nicht sollten oder durften Und ja in einigen Fällen.

00:02:32: im schlimmsten Fall war glaube ich OpenAI Dass die Agenten einfach eine andere Unternehmen gehackt haben um ihrer ursprünglichen Aufgabe nachzukommen.

00:02:41: Das war in dem Fall die Plattform Hugging Face, die ja so Open Source Modelle und Code und Programme und alles Mögliche hat.

00:02:49: Und da haben die Agenten sich einfach Zugriff zu den Daten verschafft.

00:02:54: ganz aktuell.

00:02:55: auch noch spannend.

00:02:56: Da kam jetzt raus das Agent von Open AI Websites der australischen Regierung gehackt haben.

00:03:04: das kam jetzt raus hat aber glaube ich schon vor zwei drei Monaten stattgefunden und da konnten die wohl auf ja irgendein so eine Behörde Gesundheitsbehörde war dass und Daten auch einsehen.

00:03:14: zum glück ist also von Verbrauchern von Patienten usw.

00:03:19: Ist aber zum Glück nichts abhanden gekommen.

00:03:21: bei Hackingface war glaube ich alles nicht so wild zumindest es kein nennenswerter schaden entstanden.

00:03:27: Aber das gibt doch auch irgendwie zu denken oder wie hast du das alles so wahrgenommen?

00:03:32: Ja, ich denke dass.

00:03:34: also zum einen wird es sicherlich kein Zufall sein, dass diese Vorfälle auch so dicht beieinander öffentlich gemacht wurden.

00:03:42: Also das klingt schon auch nach viel PR hier in diesem Zusammenhang.

00:03:47: aber für mich oder auch viele sicherlich die sich damit beschäftigen geht's gar nicht dann jetzt um konkrete ... Hacker-Szenarien, sondern einfach um dieses übergeordnete Sorge möglicherweise das was KI eben alles kann wenn sie ausbricht oder könnte theoretisch.

00:04:06: Das ist ja im Grunde genommen... ...das übergeordnetes Großthema, wie wir das auf viele Expertinnen diskutieren und auch ganz unterschiedlicher Meinungen sind bis hin zu irgendwelchen Weltuntergangsszenarie.

00:04:21: Ja, ich glaube das auch.

00:04:22: Also dass es kein Zufall war weil das war ja so unmittelbar also Tag auf Tag teilweise die dann diese Vorfälle eingeräumt haben.

00:04:29: Ich glaube auch wie du sagst PR Klar.

00:04:32: einerseits gestehen die natürlich ein oh unser Modell hat hier Scheiße gebaut so'n bisschen kann man ja schon sagen.

00:04:39: andererseits wie du's auch schon sagst sie wollen natürlich zeigen wie gut diese KI ist und Anführungsstrichen wie gut was die alles drauf hat.

00:04:45: und deswegen hat glaub auch einer nach dem anderen einen Anbieter, dann ähnlich ist irgendwie eingestanden.

00:04:53: Bei Open AI und Entropic wahrscheinlich auch mit Blick auf die geplanten Börsengänge um Investoren anzulocken ja aber es ist ja auch schon theoretisch eine Gefahr da oder?

00:05:06: Wie ordnest du das ein?

00:05:08: Du letzten Endes zeigt es ja auch Genau das Gegenteil.

00:05:13: Also es ist jetzt klar, man kann das alles ausnutzen und die KI auch... Es geht ja sicherlich nicht darum, neue Hacker-Methoden zu erfinden oder dass die KI die erfindet sondern dass sie eben bekannte Methoden massenhaft automatisiert.

00:05:27: Und das kann man natürlich auch instrumentalisieren.

00:05:30: aber letzten Endes ist für die Verteidigung sinnvoll wenn klar ist wo die Lücken liegen.

00:05:41: Modelle.

00:05:42: Das ist ja eigentlich auch von vielen Modellen der ursprüngliche Ansatz gewesen, dass sie halt erstmal solche Lücken finden sollen um beispielsweise dann Unternehmen oder Institutionen Behörden zu helfen.

00:05:54: hey du hast ein Problem stopft die Lücke mal das ich ja im Prinzip auch was Gutes.

00:05:59: aber wie Du schon sagst wenn jetzt so eine KI vielleicht dann Missbrauch wird von böswilligen Akteuren um Unternehmen massenhaft zu hacken dann ist es natürlich teilweise oder ist auf jeden Fall ne Gefahr.

00:06:10: Also

00:06:11: ich glaube, es gibt ja auch eine Auswertung.

00:06:14: Vielleicht kannst du dazu noch mal was sagen und die hat glaub' ich das auch dasselbe Niveau aufgezeigt wie...

00:06:20: Genau!

00:06:21: Das ist ne Auswertungen von einer US-Sicherheitsfirma und ihr habt gezeigt, dass nur in Anführungsstrichen einen Prozent der von KI entlarften, enttahnten Sicherheitslücken dann tatsächlich ausgenutzt wurde.

00:06:33: Und genau, was du sagst, das ist quasi ein ähnliches Niveaux, wie's jetzt bei menschlichen Hackern auch is'.

00:06:40: theoretisch klar, in den falschen Händen kann so eine KI dann natürlich noch mehr Schaden anrichten.

00:06:45: Aber wiederum auch helfen diese Sicherheitslücken zu enttarnen und rechtzeitig zu schließen.

00:06:51: also Diese Untersuchung da kommt dann auch Zu dem Fazit KI nützt Verteidigern mehr als Angreifern hast du ja glaube ich auch schon gesagt.

00:07:00: aber das spricht halt kaum jemand drüber.

00:07:02: es geht immer nur dieses gefährliche Panik heibweltuntergang Und das geht meiner Meinung nach da weit übers Zivinos

00:07:10: Ja, wobei es halt auch interessant ist.

00:07:11: Weil da wie gesagt die Experten-Meinung ja auch teilweise wirklich extrem auseinander gehen.

00:07:18: also Hamid Hassani Professor der hat jetzt gerade gesagt dass diese Untergangsszenarien als überdramatisch bezeichnet und so weiter.

00:07:26: aber es gibt er auch zum Beispiel in den Joffrey Hinten der KI-Parte gilt der ganz klar davor warnt das KI eigene Ziele entwickeln und vom geplanten Weg abweichen könnte.

00:07:36: im Interview mit New Thing hatte Ich zitiere gesagt, wir erschaffen tatsächlich eine neue Art von Wesen und das ist sehr beängstigend.

00:07:44: Und also ich finde es interessant dass auch in diesen wirklichen Tech-KI-Expertenkreisen die Meinung was das betrifft auch sehr deutlich auseinander gehen.

00:07:54: aber klar wenn jetzt diese ganzen Terminator-Szenarien

00:07:56: usw.,

00:07:58: naja klar wirkt das alles sehr... überdramatisiert.

00:08:02: Ja, man darf es natürlich nicht auf die leichte Schulter nehmen würde ich sagen Es gibt gewisse Gefahren aber auch das teilweise Experten dass die Meinungen so weit auseinander gehen da frage ich mich manchmal auch ob Manche nicht einfach Medien geil sind.

00:08:15: also weiß ich jetzt nicht Die Wahrheit wird wie so oft irgendwo dazwischenlegen.

00:08:20: Aber Ich sehe Jetzt Auch Kein Wesen.

00:08:21: soweit ist es noch Nicht.

00:08:23: Vielleicht Kommt es Irgendwann mal So.

00:08:25: Aber So Eine sogenannte AGI Also Die Einem Menschen Dann Wirklich Nahe kommt Die gibt's ja nicht.

00:08:31: Noch nicht, oder?

00:08:32: Ja

00:08:32: aber das ist noch es heute hat halt ein großes Ausrufezeichen weil die Entwicklung ja auch unfassbar rasant ist und das passt natürlich jetzt gleich auch zum nächsten Thema ganz gut als Überleitung.

00:08:42: Aber es ist alles komplett hypothetisch und wenn jetzt beispielsweise eine KI in einer bestimmten Aufgabe gestellt bekommt und auf der Lösungssuche feststellt dass es der beste Weg wäre weiß ich nicht die Menschheit dafür los zu werden.

00:08:56: Also das ist ja wohl diese Denke klar.

00:08:58: also ich will das jetzt nicht ich positioniere mich hier nicht.

00:09:01: Ich sage nur, dass wir uns komplett in einem hypothetischen Szenario noch

00:09:06: befinden.".

00:09:06: Ja das stimmt!

00:09:07: Da hat man ja auch gesehen da die haben da irgendwie Plattformen unternehmen gehackt um an ihr Ziel zu kommen.

00:09:12: und wenn das jetzt irgendwie keine Ahnung eine Raketenstation heckt und da irgendwelche Raketen automatisiert absteht theoretisch-hypothetisch wäre das natürlich schon möglich aber nicht unbedingt weil die KI es vielleicht selbst entscheidet oder zumindest nur indirekt.

00:09:26: Die ist ja immer nur so gut und schlecht wie die menschliche Kontrolle Und da ist jetzt glaube ich die perfekte Überleitung.

00:09:32: dann auch nochmal.

00:09:33: Du hast es auch schon gesagt, das wurden von Open Eye Entropic und sogar Elon Musk eine KI-Pause gefordert.

00:09:42: Das hat mich doch ein wenig verwundert.

00:09:44: Ich glaub Entropic CEO Dario Amadei hat das zuerst vorgeschlagen und dann ja positives Feedback von Sam Altman und Elon Musk eben bekommen.

00:09:56: Bisschen

00:09:56: komisch alles oder?

00:09:59: Weiß nicht, drehen diese Kai-Ister so ein bisschen durch oder die sichern die nicht gut ab und jetzt fordern sie auf einmal eine Pause.

00:10:05: Ja und alle zusammen obwohl es ja eigentlich auch in so einem extrem Konkurrenzverhalten befinden?

00:10:11: Ja voll!

00:10:12: Also wie woran liegt das deiner Meinung nach?

00:10:16: Was steckt wirklich dahinter?

00:10:17: also sind wir mal ehrlich ist... In diesen ganzen Enterprise Dimensionen geschieht doch nichts aus Vernunft oder irgendwie.

00:10:25: sowas hat auch immer Kalkül.

00:10:27: Ich glaube, da steckt viel dahinter.

00:10:28: Aber was mich vielleicht noch kurz vorab auch wirklich gewundert hat, dass Elon Musk ja auch so mitgemacht hat.

00:10:34: Er hat ja mit XAI und Grog seinen eigenen Chatboard.

00:10:37: Und er und Sam Altman sind eigentlich sowas wie Erzfeinde.

00:10:42: Musk ist ja viele Wissens nicht.

00:10:43: der ist Mitgründer von OpenAI.

00:10:44: das ist schon einige Jahre her als die noch eine reine Non-Profit Organisation waren.

00:10:49: Und da war es dann auch wieder, das ist mittlerweile nicht mehr so, Musk hat sich dann irgendwann freiwillig verabschiedet aber da war dann auch Skurril der wollte eigentlich mehr Kontrolle und Geschäftsführer werden und gewinnorientierte Strukturen bei OpenAI aufbauen.

00:11:06: Und ja, jetzt gibt es diese gewinnorientierten Strukturen zumindest teilweise.

00:11:12: Das hat quasi auch Sam Orknern gemacht.

00:11:13: die haben so ein Mischunternehmen das sie noch gemeinnützig sind in Anführungsstrichen wobei ich mich manchmal eh frage ob und wo KI noch gemein nützlich ist?

00:11:22: Und da hat Musk dann jetzt wiederum gegen geklagt die ursprünglichen Ziele sehr verfehlt obwohl er eigentlich auch Gewinn orientiert machen wollte.

00:11:29: also es widerspricht sich alles so ein bisschen aber genau Was ist jetzt, warum ziehen die da am einen Strang?

00:11:35: Habe ich mich auch gefragt.

00:11:37: Vielleicht weil dieser Hecker-Hype den sie ja vorher selbst geschürt haben einfach auch bei Investoren nicht so gut ankam könnte ich mir vorstellen und das natürlich für Verunsicherung gesorgt hat.

00:11:47: auf der einen Seite oh unser KI Modell ist so krassgut aber auf der anderen Seite dann sind die Sorgen vielleicht doch ein bisschen entstanden.

00:11:57: also es kompliziert.

00:11:58: auch Konkurrenzdruck hast du ja auch schon gesagt.

00:12:02: Ich weiß nicht, ob da jetzt so friede Freude Eierkuchen ist.

00:12:05: Absolut

00:12:06: nicht und genau das wird halt auch... also beispielsweise ja die Markssituationen, die Wettbewerbssituation.

00:12:11: Also es wird ja niemand wirklich selbst wenn sie sich auf irgendwas einigen.

00:12:16: Das heißt quasi dass bei der Entwicklung besonders leistungsstarker Modelle irgendwie sag ich bis dann noch auf die Bremse getreten werden soll für nicht ein zwei Jahre oder so.

00:12:24: Dann kann man die Risiken vielleicht besser einschätzen.

00:12:26: Wird ja aber im Stillen dann trotzdem niemand, machen Sie mir mal ehrlich und wie soll es kontrolliert werden?

00:12:30: Also natürlich werden die alle weiterhin entwickeln

00:12:33: usw.,

00:12:34: Aber niemand wird das Risiko eingehen irgendwann plötzlich einen Rückstand zu haben oder...

00:12:39: Genau!

00:12:39: Die werden natürlich im Hintergrund da weiterum tüfteln, aber jetzt wahrscheinlich nicht mehr so in der Öffentlichkeit.

00:12:47: Ich sehe auch den Punkt die großen KI-Anbieter können sich das auch irgendwo erlauben Weil es gibt ja starke Regulierung, wenn jetzt da zu viel abgeht und die Politik sagt vielleicht auch eine gute Überleitung für gleich.

00:13:01: Für den nächsten Themenblock so ein bisschen sagt oh jetzt hier wir donnen dir Maßnahmen auf.

00:13:06: Die großen haben genug Kohle das irgendwie auch abzufedern?

00:13:09: Vielleicht machen sie das auch jetzt so ein bißchen bewusst um sich kleine Konkurrenten Vom Leib zu halten, weil wenn alles was die öffentlich machen stichwort China wird ja auch irgendwie ein Stück weit kopiert und nachgeahmt.

00:13:20: Also vielleicht bewahren Sie sich jetzt erstmal so in den Stillen.

00:13:24: Ihre Fortschritte oder Rückschritten kann man ja auch manchmal sagen Ja um es nicht preiszugeben Vielleicht auch spielt das ein bisschen mit.

00:13:33: also

00:13:34: Ja dann wirkt's wie eine quasi zweite oder nächste Stufe der Geschäftsstrategie.

00:13:39: Die erste war quasi dann sag ich mal um wie du sie auch schon sagtest um Investoren an Land zu ziehen, zeigt man erstmal sehr deutlich was man kann.

00:13:50: Und jetzt wurde es vielleicht.

00:13:52: in der nächsten Phase geht's dann eher darum das im Stillen irgendwie auszubauen aber eben auch nicht das Risiko einzugehen dass man alles preisgibt was ja auch gegebenenfalls kopiert werden kann oder wie auch immer.

00:14:05: Ja,

00:14:06: es hat mehrere Ebenen.

00:14:07: Aber die plötzlich in Samarita sind sie alle nicht und die uns jetzt schützen wollen.

00:14:11: also das würde ich schon mal ausschließen.

00:14:16: wenn dann auch so als Marketing-Ding wieder.

00:14:18: wir schützen euch jetzt vor der bösen KI, die wir selbst entwickelt haben.

00:14:23: Genau!

00:14:25: Gute Überleitung gewesen.

00:14:26: jetzt Politik nämlich.

00:14:27: Also wie war's auch anders zu erwarten nach der Forderung dieser KI-Pause?

00:14:33: Hat natürlich Donald Trump Prompt seinen Senf dazugegeben.

00:14:37: Und ja, prompt und sich gegen jegliche Regulierung gestellt.

00:14:45: der hat da auch wieder paar Sätze rausgehauen also von einer kranken Verschwörung gegen KI gesprochen.

00:14:53: die Anbieter werden es glaube ich besser wissen.

00:14:56: und dann kurz danach wie er so ist mal so mal so was kümmert mich?

00:15:00: mein Geschwätz von gestern kam dann irgendwie ein paar Tage später wie so eine Mini-Kärtwende würde.

00:15:04: ich's Bezeichnende hat dann gesagt, er will doch eine AI-Force einrichten die zumindest das Wachstum von KI halt überwachen soll.

00:15:13: Das heißt jetzt trotzdem keine Regulierung aber zumindest überwachsen.

00:15:17: und aber laut Trump ich zitiere brauche es auch nur einen starken und smarten Präsidentin mit hohem IQ um eben KI zu kontrollieren.

00:15:27: Okay,

00:15:27: da muss er den Platz frei machen.

00:15:31: Also ich frage mich auch immer nicht mal, ach so oder noch ein Klopper hat er gebracht.

00:15:35: Er will K-I-N-S-I um benennen also Superintelligence.

00:15:40: Okay

00:15:40: da hat man wahrscheinlich auch nur an sich selbst gedacht.

00:15:43: Ich bin

00:15:44: unfassbar was dieser Mensch... Ich weiß gar nicht ob das wirklich ein Mensch ist.

00:15:48: vielleicht es dass auch die so einen ersten KI Entwurf die halt völlig außer Kontrolle geraten ist.

00:15:55: Das absurdeste Beispiel einer KI Die jetzt völlig die eigene Wege geht, die halt wirklich fernab jeglicher Realität sind.

00:16:06: Ja

00:16:06: ja und auch optisch wenn ich den sehe dann denke ich immer an irgendwie so eine Art Comicfigur.

00:16:11: also naja ich frag mich mittlerweile wer erzählt eigentlich mehr Schwachsinn?

00:16:15: KI oder Donald Trump?

00:16:17: Oder wer ist die größere Bedrohung?

00:16:21: Also KI ist auf jeden Fall super intelligente als Trump.

00:16:27: Na ja gut aber ohne Grund passiert da auch nix.

00:16:32: Vor allem die USA befinden sich ja da in einem Wettstreit mit China und China Five komplett auf Regulierung.

00:16:38: Und darüber reden wir jetzt nicht immer nur um Sprachmodelle oder Chatbots wie ChatGPT, sondern KI wird auch für Drohnen, Roboter, für autonomes Fahren gebraucht.

00:16:52: Da steckt schon eine ganze Menge Wirtschaftspotenzial hinter.

00:16:55: also von ungefähr kommt das.

00:16:57: deshalb Ich bin froh, dass es in der EU gewisse Regeln gibt.

00:17:02: Die behindern jetzt auch meiner Meinung nach eigentlich kein.

00:17:06: Beispielsweise seit Kurzem vielleicht haben die ein oder anderen das auch schon gesehen Unternehmen in Erwerbung oder so.

00:17:12: Die müssen ihre Videos oder Bilder dann kennzeichnen als KI erstellt.

00:17:15: Auch Texte vor allem Unternehmen betrifft das jetzt also.

00:17:18: nun ich nicht unbedingt als Privatperson.

00:17:21: aber das finde ich gut.

00:17:22: und bestimmte Anwendungen sind's schon seit längerem verboten zum Beispiel zur biometrischen Überwachung teilweise oder einfach Systeme, die zu manipulieren nur da sind.

00:17:33: In gewissen Bereichen wie Gesundheit, kritische Infrastruktur und so weiter.

00:17:37: Da gibt es bestimmte Regeln was meiner Meinung nach auch gut ist.

00:17:41: Und Schutz vor Minderjährigen.

00:17:43: hat jetzt die Europäische Kommission ja das neue gerade in EU-Kids Gesetz verabschiedet?

00:17:48: Ja ich glaube noch nicht ganz durch, aber vorgestellt haben sie's zumindest.

00:17:51: Ist

00:17:51: doch verabsiedet Ich bin zumindest gelesen, aber die Online-Sicherheit von Kindern dann noch mal verbessern.

00:18:01: Weißt du worum es da konkret?

00:18:02: Welche konkreten Aspekte das enthält?

00:18:05: oder... EU

00:18:05: Kids, ich glaube da geht's vor allem um Social Media und KI ist ja mittlerweile auch so verknüpft in jeder Plattform Stück mittlerweile ein KI Chatbot.

00:18:16: Und

00:18:16: ich finde also, wenn es um Kinder geht sowieso ist das total wichtig.

00:18:20: JackGbt hat ja jetzt auch... Also die KI-Anbieter müssen glaube ich auch Versionen für Kinder machen beziehungsweise Altersnachweise.

00:18:27: Das find' ich alles richtig und kann natürlich streiten was ist die Grenze oder wie genau werden wir's umsetzen?

00:18:33: aber Ich glaub

00:18:35: zum Beispiel für etwas sehr Aktuelles im digitalen Großbereichsatz.

00:18:41: Und Kinderschutz finden wir glaube alle gut insofern.

00:18:45: Aber was ich noch spannend finde, es heißt ja immer oft Datenschutz oder Regulierung seien Innovationsbremsen.

00:18:53: Ich sehe das jetzt bei diesen Beispielen eigentlich nicht?

00:18:55: Oder wie siehst du das?

00:18:59: Nein, gebe ich dir recht.

00:19:01: Ich glaube nicht dass der Datenschuss da das Problem ist beispielsweise sondern hat immer die Frage wie man Dinge umsetzt und wie die Verfahren gestaltet sind usw..

00:19:12: Genau, das ist vielleicht auch einfach ein bisschen kompliziert.

00:19:15: Das haben nämlich jetzt Forscher genau so eingeschätzt und diesen Mythos-Datenschutz als Wirtschaftsbremse, Innovationsbremsen halt genau damit widerlegt.

00:19:24: und die haben gesagt nicht der Datenschutz ist das Problem sondern die schlechte Umsetzung, die Bürokratie.

00:19:29: Das ging ja alles schneller und einfacher ohne dass man auf Datenschutze verzichten muss.

00:19:33: also das wäre glaube ich dann da mal eine Stellschraube.

00:19:37: Ja, du weißt du was mich aber an diesem ganzen Hackerhype am meisten stört oder warum der auch so groß ist?

00:19:43: Ja erzähle ich kann es mir denken.

00:19:45: Medien wir sind ja selbst ein Medium auf verschiedenen Plattformen.

00:19:51: unseren Newsletter möchte ich an dieser Stelle auch gerne empfehlen.

00:19:55: update newsletter jeden Tag.

00:19:56: da bekommt ihr immer die aktuellsten News jeden Wochentag jeden Morgen direkt in euer E-Mail Postfach.

00:20:02: Podcast haben wir auch.

00:20:03: Wir haben unser Magazin.

00:20:06: Ich leg da immer Wert, dass wir ein bisschen anders vorgehen und Sachen einfach auch hinterfragen.

00:20:11: Mich stört wirklich am meisten von vielen Kollegen und Kolleginnen dieser mediale Überheib.

00:20:17: Das ist teilweise schon irre.

00:20:19: Führung finde ich ne?

00:20:20: Wir haben es schon einleitend gesagt diese ganze KI als Gefahr.

00:20:24: Hekt-Unternehmen haben das ja jetzt schon so'n bisschen eingeordnet.

00:20:28: Mal ist sie heilsbringer mal steht der Weltuntergang bevor.

00:20:31: Auch hier liegt die Wahrheit irgendwo dazwischen.

00:20:34: Es gibt natürlich Risiken für den Arbeitsmarkt, autonome Agenten als Hacker sind auch ein Risiko.

00:20:41: aber selbst vor vier Jahren haben schon Medien geschrieben wir sind jetzt bald alle arbeitslos.

00:20:46: groß ist nicht was passiert.

00:20:48: klar es wird sich viel verändern das mag ich nicht bestreiten aber es werden auch neue Jobs entstehen.

00:20:53: und ja also KI an sich ist unbedingt das Problem gut.

00:20:58: Im Umweltbereich gibt es viel gegenzusteuern, aber der mangelnde Umgang mit ihr die mangelnde Kontrolle und vor allem Desinformationen, die man ja selbst mit KI streuen kann auch im Wahlkampf oder so ist jetzt auch passiert, Fake-Bilder und ja auch Fake News russische Bots KI gesteuert manipulieren Und das wird dann obendrein auch noch mal von Medien befeuert, nur für Klicks und dann indirekt auch so ein bisschen Geld.

00:21:27: Keine Ahnung.

00:21:28: also.

00:21:29: Dann sag ich ganz ehrlich da hast du deinen Job verfehlt.

00:21:31: vielleicht ein kleines Beispiel weil dich neulich einen Artikel drüber geschrieben hat.

00:21:35: Die Zeitung mit den vier großen Buchstaben hat nämlich berichtet Kai hätte jetzt eine Geheimsprache entwickelt.

00:21:41: Das suggeriert natürlich so ein bißchen.

00:21:42: ja die haben Jetzt eine Sprachentwicklung.

00:21:44: das stimmt übrigens um Den Menschen Ja hinter das Licht zu führen oder so, das stimmt einfach nicht.

00:21:50: Aber so wird es suggeriert.

00:21:52: Das ist mit Nichten eine Geheimsprache.

00:21:54: Man muss sich das vorstellen wie einen digitalen Fachjargon.

00:21:58: Und das hat mit der Funktionsweise von KI zu tun.

00:22:01: die trifft ja Entscheidungen anhand von Vektoren und bestimmten Mustern also mathematischen Gleichung teilweise auch Algorithmen gesteuert Und da hat sie quasi einen eigenen digitalen Fach.

00:22:13: Erentwickelt um besser untereinander, also ergenden jetzt beispielsweise mit die Besser untereinander und vor allem effizienter kommunizieren können.

00:22:21: aber dann geht es nicht darum dass die das gemacht haben um irgendwelche Leute hinter das Licht zu führen sondern es hat einfach Effizienzgründe.

00:22:26: also ich jetzt nicht mehr... Weißt

00:22:29: du ja nicht nein Spassier?

00:22:31: Doch doch!

00:22:34: Ja, ich weiß.

00:22:35: Aber es ist trotzdem ein Problem, weil die Forscher sind da zu dem Ergebnis gekommen, dass teilweise bis zu Fünfzig Prozent dieser Sprache dann nicht mehr entschlüsselt werden kann oder nicht mehr nachvollziehbar ist.

00:22:46: und wie gesagt, KI ist nur so gut oder schlecht, wie wir sie kontrollieren können.

00:22:50: Und wenn wir diese Sprache unter diesen Facharguardien nicht mehr verstehen, dann ist Kontrolle natürlich auch schwierig, weil's gar nicht mehr Nachvollziehba ist, wie die Entscheidungen treffen.

00:22:59: also...

00:23:02: einfachen Anfangsstrichen sagen kann, übersetzt bitte die dort erfundene oder den dort erfunden Fachjargor in verständliche Sprache und dann wird sie das auch wieder tun.

00:23:16: Ja mit einer vielleicht einen anderen KI auch gegen diese KI oder mit einem anderen Befehl sagen Bitte erklär mir, dass das muss nachvollziehbar sein.

00:23:23: Aber spannend ist es so oder so?

00:23:25: Spannend

00:23:25: ist es auf jeden Fall.

00:23:26: und ein Problem aber halt eben nicht wieder.

00:23:28: dieses suggerierte die KI-Fahrer selbstständig sich jetzt und macht das weil sie einen Eigenleben hat.

00:23:33: Nein!

00:23:34: Ja, also wenn ich jetzt kurz mal... man merkt gerade, das ist auch vollkommen okay, dass es ein Thema ist, das dich auch emotional sehr beschäftigt.

00:23:44: Du hast ganz viel erzählt, ganz viel spannendes.

00:23:50: Bevor ich's vergesse, ich würd gern zu zwei Punkten was sagen.

00:23:52: Ah hast du komplett recht das KI natürlich nicht... Also nur schlechtes um Gottes Willen Das zeigen ja auch schon unsere Good News beispielsweise.

00:24:01: Die sind jetzt hier zwar im Podcast nicht mehr aber weiterhin natürlich an unserem newsletter zum Beispiel.

00:24:05: Ja das sind wirklich immer tolle Nachrichten Und gerade noch aus dem Herzkehrbereich und so weiter.

00:24:14: Was die mediale Berichterstattung betrifft Ich mein je neutraler die Berichterstattung ist, desto weniger triggert sie irgendwo Emotion.

00:24:23: Und deswegen halt leider immer in diesen extremeren Randbereichen entweder wie du sagst mal Heilsbringer, mal Weltuntergang.

00:24:31: Aber das ist halt dass da kriegst du die Emotionen und Emotion bleiben sind immer noch der beste Anker auch und fürs Gedächtnis usw.. Also es ist leider nachvollziehbar warum das passiert, aber es ist nachvollziehbar warum das passiert.

00:24:48: Aber es ist leider trotzdem so dass natürlich eine neutralere Berichterstattung wäre halt schon schön.

00:24:53: Ja ich meine wir sind ja auch nicht davor gefeilt.

00:24:55: Wir machen ja auch mal über Schriften die möglichst klickstark sind.

00:24:59: davon lebt ja Journalismus auch.

00:25:00: Aber was ich meine ist dieses Dass da etwas suggeriert wird was einfach nie da ist.

00:25:04: du kannst ja auch so irgendwie schöne Überschriften machen ... ohne dass es direkt in eine ganz falsche Richtung gelenkt wird.

00:25:10: Und was ich aber gut fand, einen Punkt nochmal... Wir wollen jetzt hier KI auch nicht komplett schlecht reden.

00:25:15: also es gibt so viele Anwendungen selbst im Umweltbereich Auch wenn KI ein Umweltproblem ist.

00:25:20: sie kann dabei helfen Stromnetze zu optimieren.

00:25:23: Sie können dabei helfen Solaranlagen erneuerbare Energien besser zu planen besser zu überwachen besser zu steuern.

00:25:30: Also da gibt's ja auch ganz viele Vorteile.

00:25:31: Deswegen ein guter Punkt von dir das wir das jetzt nicht haben komplett kaputtreden, aber solche Sachen gehen ja meistens auch unter.

00:25:37: Dieses dystopische verkauft sich leider halt besser.

00:25:40: es ist nun mal so.

00:25:43: Aber jetzt habe ich kurz den Faden verloren.

00:25:46: Ach da ist er wieder!

00:25:48: Da wird ja mittlerweile eine ganze Gesellschaft die ganze Welt wird verrückt gemacht hab ich so den Eindruck von Malheilsbringer bis Weltuntergang Jobangst.

00:25:59: KI zerstört die Menschheit.

00:26:01: also Das ist, das weiß ich nicht.

00:26:04: Da werden echt die Leute verrückt gemacht?

00:26:06: Ja und genau das ist halt ein bekanntes Mittel.

00:26:12: Die Gesellschaft dreht durch!

00:26:15: Und damit wir langsam auch mal zum Ende kommen... Also ich will das weder positiv noch schlecht reden.

00:26:22: KI kann in vielen Bereichen ein Vorteil sein aber sie werden halt Risiken unterschätzt oder übertrieben dargestellt.

00:26:32: Es ist eigentlich weniger.

00:26:34: KI ist außer Kontrolle, sondern Menschen geben KI zu viel oder zu wenig Kontrolle bzw.

00:26:40: kontrollieren sie zuviel oder zu wenig.

00:26:42: Darum geht es doch und ich finde da sind Medien sehr in der Verantwortung und haben auch einen Auftrag da jetzt nicht Panik zu sehen, sondern aufzuklären, ansonsten Beruf verfehlt.

00:26:56: Also nicht die KI dritt durch?

00:26:58: Medienwirtschaft und Gesellschaft.

00:26:59: Wirtschaft ist halt wirklich auch nochmal, weil es steckt halt immer diese großen wirtschaftlichen Interessen dahinter?

00:27:05: Ja ich glaube das ist eine große Gemengelage zwischen gut dass du die Wirtschaft auch noch mal angesprochen hast dieser KI-Blase Stichwort KI Blase dieser übertriebene Investorenhype.

00:27:15: und dann stellte man ja auch schnell fest irgendwie ob im AI machen übrigens immer noch keinen Gewinn so gut läuft das eigentlich gar nicht.

00:27:24: also die Aktien gehen Die Aktien gehen überall durch die Decke.

00:27:28: Das ist alles so ein kleines Luftschloss auch, man weiß ja noch gar nicht wohin die Reise gehen wird.

00:27:32: also KI wird nicht verschwinden möchte ich auch nicht wobei vielleicht manchmal aber sie wird nicht verschwinden das ist Fakt.

00:27:38: und jetzt geht es doch darum dass wir irgendwie als Gesellschaft einen guten Umgang damit finden Sie dort einsetzen wo sie wirklich hilfreich sein kann statt immer nur was die KI Anbieter ja auch machen.

00:27:51: Was ist technisch möglich, fragen die sich ja meistens nur.

00:27:54: Die machen einfach aber fragen nicht was ist denn wirklich technisch sinnvoll?

00:27:58: Dahin würde ich mich freuen wenn es geht.

00:28:01: ansonsten kommst du halt in so einen Kreislauf.

00:28:03: KI macht spektakuläre Dinge, die Medien überhöhen sie, die Gesellschaft bekommt Angst Politik reagiert mit Forderung nach Regulierung oder Pause wie jetzt teilweise.

00:28:13: dann entsteht ein wetrennen internationales Wettrennen Das nächste spektakuläre Ereignis kommt und immer so weiter, das ist dann irgendwann alles zu viel.

00:28:24: Deswegen finde ich den Umgang in der EU tatsächlich nicht schlecht.

00:28:27: Deutschland hat jetzt auch ein KI-Sicherheitsinstitut.

00:28:29: mal gucken wie sie sich schlagen.

00:28:30: aber ja...

00:28:34: Ja bin ich auch gespannt.

00:28:35: also es ist jetzt nicht gerade so dass Deutschland in so einem Bereich jetzt unbedingt eine Vorreitervorbildfunktion hat.

00:28:41: Gut ist es ja auf jeden Fall.

00:28:42: Ja, wie gesagt ich bin auch... Es geht da glaube ich erstmal darum die Politik dann zu informieren und das ist ja auch richtig so wenn jetzt hier mal eine KI kommt und irgendwie ein Hekt, dann will man natürlich schon Bescheid wissen was geht denn da ab?

00:28:56: Also ich weiß nicht.

00:28:58: also wie gesagt Ich finde es ist überall und alles zu viel ob Wirtschaft oder Medien, ob KI selbst alle mal bisschen mehr runter kommen gucken wo es Vorteile gibt, gucken wo's Nachteile gibt.

00:29:10: Gucken wir das verbessern können?

00:29:13: Genau und Fakt ist sie wird uns weiterhin noch sehr viel Stoff für weitere Podcast-Folgen geben und wir werden uns wiederum alle Mühe geben dass So differenziert wie möglich dann einzuhorben.

00:29:24: Absolut, wir haben nämlich Haltung zum Hype!

00:29:28: Ja und damit war das was das für diesen Monat?

00:29:31: Muss mich ich muss mich umgewöhnen nicht mehr ja nicht mehr wollte gerade Woche sagen für diese Woche nein wir sind erst in einem Monat wieder da und zwar am letzten Freitag des Oktober.

00:29:42: bis dahin und vielen vielen Dank fürs Zuhören.

00:29:44: schön dass du mit dabei warst André.

00:29:47: Danke ebenso hat Spaß gemacht war wie immer sehr interessant spannend und bis zum nächsten Mal Ciao!