Des Kaisers neue KI – Warum der AGI-Hype gefährlich werden könnte | Never Content #1
Artificial General Intelligence (AGI) gilt für viele als nächster großer Technologiesprung. Doch wie realistisch sind diese Erwartungen? In dieser Podcastfolge sprechen Mina Benz und Hagen Terschüren über den aktuellen KI-Hype und die Rolle, die Nvidia und Venture Capital dabei spielen. Es geht um die Grenzen heutiger KI-Sprachmodelle, wirtschaftliche Anreize hinter KI-Versprechen und die Frage, warum Vertrauen, Führung und menschliches Urteilsvermögen trotz aller Automatisierung unverzichtbar bleiben. Außerdem diskutieren wir das Manifest von Palantir-CEO Alex Karp kritisch.
Des Kaisers neue KI – Never Content Folge #1
In dieser Folge:
AGI ist bisher keine wissenschaftlich eindeutig erreichte Realität, sondern ein Marketingbegriff. Wann oder ob AGI jemals erreicht wird, bleibt abzuwarten.
Viele Aussagen über die Leistung und den Erfolg von KI werden durch wirtschaftliche Interessen großer Technologieunternehmen geprägt und sind somit nicht zuverlässig.
Produktivitätsversprechen aktueller KI-Modelle sind bislang nicht empirisch belegt.
KI-Systeme übernehmen gesellschaftliche Vorurteile aus ihren Trainingsdaten und sind deshalb nicht neutral.
Vertrauen in die eigenen Mitarbeiter*innen, Erfahrung und Führung lassen sich nicht durch KI ersetzen.
Shownotes
Youtube: NVIDIA CEO says AGI is already here | Jensen Huang and Lex Fridman
TikTok: Jensen Huang Fires Back on China Chip Ban
X: Palantir-Tweet zur Technological Republic
Harvard Business Review: Al Doesn't Reduce Work- It Intensifies It
Tom’s Hardware: Nvidia exec says AI is more expensive than actual workers — yet some companies don't see the extra costs as a negative
FAQ zur Folge:
Was ist AGI?
Artificial General Intelligence (AGI) beschreibt eine hypothetische Form künstlicher Intelligenz, die intellektuelle Aufgaben mindestens auf menschlichem Niveau lösen kann. Ob AGI tatsächlich bereits erreicht wurde oder in den nächsten Jahren erreichbar ist, ist umstritten. Selbst Jensen Huang, CEO von Nvidia, scheint laut Äußerungen aus dem Frühjahr 2026 nicht überzeugt.
Haben wir AGI bereits erreicht?
In der Folge argumentieren wir, dass aktuelle Sprachmodelle und Automatisierte Systeme die Definition künstlicher Intelligenz auf menschlichem Niveau nicht erfüllen und viele Behauptungen über AGI eher Marketing als wissenschaftlicher Konsens sind.
Warum sprechen so viele Unternehmen von AGI?
Unternehmen wie Nvidia oder OpenAI profitieren wirtschaftlich von hohen Erwartungen an KI. Investitionen, Börsenbewertungen und öffentliche Aufmerksamkeit hängen häufig mit solchen Zukunftsversprechen zusammen. Daher wird AGI als etwas in Kürze erreichbares positioniert, damit mehr Investitionen in KI fließen.
Warum ist KI nicht neutral?
KI-Modelle werden mit großen Datensammlungen trainiert. Diese Datenmodelle enthalten Bias, gesellschaftliche Vorurteile und historische Verzerrungen, die sich in den Antworten der Systeme widerspiegeln.
Kann KI Führung ersetzen?
Die Folge argumentiert, dass KI Informationen strukturieren kann, Entscheidungen aber weiterhin menschliches Urteilsvermögen, Verantwortung und Vertrauen erfordern. Gleichzeitig gaukelt es vielen Führungskräften ein Gefühl von Sicherheit vor, was dazu führt, dass diese sich zunehmend auf KI verlassen, statt auf ihre Mitarbeitenden.
Worum geht es im Manifest von Alex Karp?
Das im Podcast diskutierte Manifest „The Technological Republic“ beschreibt die Vorstellung, dass Technologieunternehmen eine stärkere Rolle bei der Gestaltung von Staat, Sicherheit und gesellschaftlicher Ordnung übernehmen sollten. Dort wird jedoch ein ausdrücklich menschenfeindliches Bild reproduziert, inklusive rechter Signalsprache.
Warum wird das Manifest von Alex Karp kontrovers diskutiert?
Die Kontroverse entsteht vor allem durch die Frage, was für ein Menschen- und Gesellschaftsbild Alex Karp in seinem Manifest reproduziert. Er spricht unter anderem verschiedenen “Zivilisationen” unterschiedliche Befähigungen zu und bezeichnet Pluralismus als schädlich.
Glossar
AGI (Artificial General Intelligence)
Bezeichnet eine hypothetische Form künstlicher Intelligenz, die geistige Fähigkeiten auf dem Niveau eines Menschen oder darüber besitzt. Im Podcast wird diskutiert, ob aktuelle KI-Systeme diese Definition bereits erfüllen oder ob der Begriff inzwischen vor allem für Marketingzwecke verwendet wird.
Alex Karp
Alex Karp ist Mitgründer und CEO von Palantir, einem US-amerikanischen Softwareunternehmen, das Datenanalyse- und KI-Plattformen für Regierungen, Militär, Geheimdienste und Unternehmen entwickelt.
Anthropic
US-amerikanisches KI-Unternehmen und Entwickler des Sprachmodells Claude. Anthropic richtet seine Produkte zunehmend auf Unternehmenskunden aus und konkurriert mit OpenAI und Google.
ASML
Niederländischer Hersteller von Lithografiemaschinen für die Chipproduktion. Die hochspezialisierten Maschinen von ASML gelten als unverzichtbar für die Herstellung modernster Halbleiter.
Bias
Systematische Verzerrung in Daten oder Algorithmen durch Stereotype, Vorurteile oder verinnerlichte Überzeugungen. KI-Modelle übernehmen bestehende Vorurteile aus ihren Trainingsdaten, wodurch diskriminierende oder fehlerhafte Ergebnisse entstehen können.
ChatGPT
Ein KI-Chatbot von OpenAI, der Texte generieren, Fragen beantworten und Informationen zusammenfassen kann. Im Podcast wird diskutiert, welche Grenzen solche Systeme trotz ihrer Fähigkeiten haben.
Claude
Ein Sprachmodell von Anthropic. Im Podcast wird Claude stellvertretend für moderne KI-Assistenten verwendet und hinsichtlich Produktivität, Kosten und praktischer Einsatzmöglichkeiten diskutiert.
Dotcom-Blase
Spekulationsphase Ende der 1990er-Jahre, in der Internetunternehmen enorme Bewertungen erreichten, obwohl viele noch keine nachhaltigen Geschäftsmodelle besaßen. Im Podcast dient sie als Vergleich zur aktuellen KI-Euphorie.
Jensen Huang
Mitgründer und CEO von NVIDIA. Seine Aussagen über AGI und die Zukunft künstlicher Intelligenz bilden den Ausgangspunkt der Podcastfolge.
Large Language Model (LLM)
Eine Form künstlicher Intelligenz, die auf riesigen Textmengen trainiert wird und Sprache verarbeiten sowie erzeugen kann. ChatGPT, Claude und Gemini basieren auf dieser Technologie.
Metaverse
Mark Zuckerbergs Vision einer dauerhaft vernetzten virtuellen Welt, die insbesondere von Meta Platforms stark beworben wurde. Das Metaverse war für schlechte Grafiken und geringe Nutzung bekannt. Im Podcast wird das Metaverse als Beispiel für einen überhitzten Technologietrend genannt.
NVIDIA
US-amerikanischer Chiphersteller und Marktführer bei Grafikprozessoren für KI-Anwendungen. Die leistungsfähigen GPUs des Unternehmens bilden die technische Grundlage vieler moderner KI-Systeme.
OpenAI
US-amerikanisches KI-Unternehmen und Entwickler von ChatGPT. Im Podcast wird OpenAI als einer der wichtigsten Wettbewerber von Anthropic erwähnt.
Palantir
US-amerikanisches Softwareunternehmen, das Analyse- und Überwachungsplattformen für Behörden, Militär und Unternehmen entwickelt. Die Folge diskutiert sowohl die Technologie als auch die politischen Aussagen der Unternehmensführung kritisch und bezieht sich auf das von Alex Karp veröffentlichte Manifest.
Prompt
Die Eingabe oder Anweisung, mit der Nutzer ein KI-System steuern. Im Podcast wird argumentiert, dass nicht das Schreiben guter Prompts entscheidend für eine erfolgreiche Nutzung von KI ist, sondern die Fähigkeit, die Antworten kritisch zu bewerten.
TSMC (Taiwan Semiconductor Manufacturing Company)
Weltweit führender Auftragsfertiger für Halbleiter. Viele Unternehmen – darunter NVIDIA – lassen ihre Chips bei TSMC produzieren.
Venture Capital
Risikokapital, das in junge Unternehmen mit hohem Wachstumspotenzial investiert wird. Im Podcast wird diskutiert, welchen Einfluss Venture Capital auf die aktuelle Entwicklung und Preisgestaltung von KI-Unternehmen hat.
Yo
Ein minimalistischer Messenger, mit dem ursprünglich nur das Wort „Yo“ verschickt werden konnte. Trotz seines einfachen Funktionsumfangs erreichte die App zeitweise eine hohe Unternehmensbewertung und dient im Podcast als Beispiel für Tech-Hypes.
Transkript zur Folge
Zusammenfassung: Sind wir kurz vor der intelligenten KI, die Menschen ersetzt? Und was sagt uns das Manifest von Alex Karp über Palantirs Werte? Diese Woche in Never Content gibt es Antworten auf diese Fragen, sowie ein paar Gedanken zur Faszination KI und Wertekonstrukten in Tech.
Die Transkription wurde automatisiert erstellt und kann Fehler enthalten.
Hagen (00:02)
Mina, was ist deine Position? Haben wir AGI schon erreicht?
Mina (00:06)
Meine Position ist, dass wir das wahrscheinlich in unserer Lebenszeit gar nicht erreichen werden.
Hagen (00:10)
Dabei sagen doch ganz viele Expertinnen mit sehr großem finanziellen Interesse daran, dass wir es schon erreicht haben.
Mina (00:16)
Sind das die ExpertInnen, auch so Nazi-Manifeste schreiben wie Palantir?
Hagen (00:21)
Ich dachte jetzt unter anderem an den Nvidia-CEO Jensen Wang und von Sam Altman kamen auch schon so Andeutungen. Aber da können wir ja gleich drüber sprechen. Diese Woche bei Never Content
das Thema, was uns so bisschen gecatcht hat, war eine Sache, die Jensen Huang, das ist der CEO von NVIDIA, das sind die, die ganzen Chips bauen, die in den ganzen KI-Rechenzentren laufen, die er gesagt hat, nämlich in dem Podcast von Lex Friedman. Und er meinte, AGI, das haben wir doch eigentlich schon erreicht.
Dazu muss man sagen, fair zu sein, also Jensen Wang sagt, AGI ist jetzt schon hier, weil es ist nicht außer Frage, dass man mit Hilfe einer AI und ohne richtige Angestellte eine App machen könnte, die eine Milliarde Umsatz generiert. Fairerweise zu Jensen Wang muss man dazu sagen, die Frage von Lex Friedman ging auch schon sehr in die Richtung. Also der hat das definiert als AGI ist, wenn man so ein Milliardenunternehmen damit aufbauen kann. Ich finde das aber sehr interessant, weil AGI steht ja eigentlich für
Artificial General Intelligence, das ist die Definition. Eine KI ist so klug wie ein Mensch. Ist man so klug wie ein Mensch, wenn man ein Milliardenunternehmen bauen kann?
Mina (02:21)
Also mir ist noch nicht bewusst, dass es einen Use-Case gibt, wo eine AI-Anwendung ein Milliardenunternehmen gebaut hat.
Hagen (02:32)
Also seine Logik war, dass man damit halt so kleine Apps bauen könnte, wie zum Beispiel auch in der Dotcom-Blase, die ja solche Milliardenbewertungen damals erzielt haben. Oder ich mein, erinnere dich vor ein paar Jahren, als es den Messenger Yo gab, wo man einfach nur Yo hin und her geschrieben hat. Das könnte eine AI bauen. To be fair, das war kein Milliardenunternehmen, aber es war immer noch ein Millionenunternehmen. Das wurde für Millionen verkauft. Das wäre schon denkbar, dass das möglich wäre, etwas in diese Richtung zu bauen.
Mina (03:00)
Also ich finde, der Tell ist ja dieses Little App, wie er das genannt hat. Also er das ja wirklich, er sich ja gecatched, gutes PA-Training, es nicht zu dyspektierlich zu sagen. Und für mich auch wieder...
Das ist jetzt vielleicht nicht so techbezogen, aber dafür bin ich auch hier. Warum wurden diese Sachen mit Millionen oder Milliarden bewertet? Das ist ja zum einen nicht nur, weil man sich davon große Umsätze versprochen hat, sondern man verkauft ja auch eine Aussicht auf Rendite, also und eine Userbasis und vor allen Dingen,
Hagen (03:35)
und eine User-Basis.
Mina (03:39)
Dazu gibt es ja auch sehr viele Berichte, dass diese ganzen Venture Capitalist Sachen vor allen Dingen über persönliche Netzwerke funktionieren. Und ich würde jetzt mal einfach sagen, eine alleinstehende kleine wie Jensen das genannt hat, ist eben nicht mit den Bros jedes Wochenende beim Golf. Kannst ja gar nicht, ist ja eine Und insofern würde die dann auch für sich alleine genommen auch keine Milliardenbewertung bekommen.
ich bin so ein bisschen, also diese Hypothese, wir sind bei Artificial General Intelligence, weil wir damit jetzt Apps machen können.
ich finde das schon eine sehr gewagte Aussage. Ich hatte ja dieses Interview mit ihm vorgeschlagen als Thema für den Podcast, weil ich eine andere Aussage aus dem ganzen Verlauf sehr spannend fand und zwar das mit den Chips und ob diese Chips nach China verkauft werden dürfen.
glaube dafür wäre es nochmal gut zu erklären, vielleicht auch für die Leute, die jetzt nicht so tief drin sind wie wir, was Nvidia überhaupt macht und warum es vielleicht auch kritisch sein könnte, wenn sie nach China exportieren.
Hagen (04:45)
Genau, also NVIDIA designt Chips, das baut die nicht selber, gebaut werden die dann bei TSMC, wie die meisten High-End-Chips, auch die in iPhones und so weiter. Also die ganzen großen Chipfirmen, bis auf Intel, designen eigentlich nur noch Chips, die dann bei TSMC zum Beispiel gebaut werden. Und NVIDIA hat aktuell die besten Chips für KI mit dem Design. Das hängt damit zusammen, dass die einfach sehr, sehr gut im Design sind und dann haben die aber auch schon seit Jahren so einen Software-Support aufgebaut, der perfekt auf deren Chips optimiert ist.
Und das ist halt, was Nvidia verkauft.
Mina (05:16)
Muss man TSMC? Ich weiß nicht mal, was das ist.
Hagen (05:20)
Taiwan Semiconductor. Das ist so ein House of Cards, über das wir in Zukunft sprechen können, weil das ist die Firma, die die besten Chips herstellen kann, die in Fabriken aktuell auch nur in Taiwan stehen, was natürlich so globalpolitisch schwierig ist. kriegen wir so massive Chips-Krise, aber da sind Verhandlungen, dass die auch Werke in Europa und den USA aufmachen. Aber die Kette geht noch weiter. Die können das nur machen.
mit Chips des Herstellers ASML, in den Niederlanden sitzt. Weil die Art, wie man diese Chips belichten kann, das ist so hyperkomplex, dass diese Maschine kann nur ASML in den Niederlanden bauen. Ach ja, und in diesen Maschinen von ASML, da sind Spiegel drin, kann nur Carl Zeiss in Deutschland bauen. Das heißt, irgendein Glied dieser Kette und alles ist am Arsch.
Mina (06:07)
Man merkt, wir sind große Fans von der AI-Industrie. den Interview-Ausschnitt, den ich referenziert habe,
Also das, worauf der Interviewer hinaus will, ist ja, dass es moralisch verwerflich ist für Nvidia auch nach China zu verkaufen. Weil wenn man dann Artificial General Intelligence Wenn man das dann nach China verkauft oder die Möglichkeit, das in der Zukunft zu haben, durch diese Chips nach China verkauft.
Dann hätte man ja dann irgendwann AGI Warfare, also Krieg, der durch AGI gesteuert wird und man würde den technologischen Fortschritt gegenüber oder die technologische Vorher- schaftstellung gegenüber China verlieren und so weiter und so Und darauf war Jensen Huang ja total gelassen.
Also ihn hat das ja überhaupt nicht interessiert und hat das ja so ein bisschen abgetan Ja, und ich fand es einfach sehr interessant, wie er darauf reagiert hat.
Kannst du einfach kurz erklären, was hier der Spice ist? Was ist das Besondere an dieser Reaktion?
Hagen (08:05)
Er meinte halt so nach dem Motto, naja, so schlimm ist das schon nicht, wenn wir das dahin verkaufen. Und das finde ich halt ganz interessant, weil für mich deutet das darauf hin, dass wenn wir die ursprüngliche, also jetzt wird es tatsächlich nochmal kompliziert, weil wir sind bei dem Begriff AGI angekommen für eine KI. Eigentlich ist die Definition eine KI, die Sachen mindestens genauso gut kann, wie es ein Mensch kann.
wofür eigentlich mal der Begriff AI da war, aber dann wurde der von Marketing gekapert für was, nicht so gut ist. ist dieser Begriff migriert zu AGI. für mich heißt das natürlich, dass Wenn das so mächtig Dass Jansung Hwang da eigentlich nicht dran glauben kann
Dass diese Definition von AGI, wird so gut wie Mensch, kann an die ganze Warfare, kann alles automatisieren, alles übernehmen, da kann er eigentlich gar nicht dran glauben. Weil sobald er daran glaubt, dass das eintritt und dass das möglich ist, dieser Entwicklung von Large-Language-Models dahin zu kommen, die auf NVIDIA-GPUs kaufen, warum sollte dann Jensen Wang jemals wieder eine GPU verkaufen und nicht einfach für sich behalten? NVIDIA ist das wertvollste Unternehmen der Welt, die könnten die GPUs alle einfach für sich behalten.
dann selber diese AGI entwickeln und hätten dann die volle Kontrolle als einzig auf der Welt über die KI, die so klug ist wie ein Mensch und alles automatisieren, alles revolutionieren könnte, die Weltwirtschaft ins Chaos stürzen. Und wenn du diese Macht hast, warum solltest du die Chips verkaufen und nicht für dich behalten in der kapitalistischen Welt? Das macht ja gar keinen Sinn. Das heißt, er kann gar nicht daran glauben, sonst würde er die für sich behalten, die Dinge.
Mina (09:38)
Er könnte auch glauben, dass ganz viele Unternehmen schon sehr kurz davor sind, das ohnehin zu entwickeln.
Hagen (09:47)
Das kann auch sein, was übrigens das nächste interessante Problem ist mit diesem ganzen, es kann ja Apps entwickeln und worüber wir gesprochen haben war ja auch, was der Wert von der App ist, warum Instagram für Milliarden verkauft wurde und WhatsApp ist die User-Basis. Das war aber, wir kennen es alle, wie schwer ist es Leute zu überreden, nicht WhatsApp zu benutzen? Fast unmöglich. Die sind da drin entrenched, die wollen das benutzen.
Das ist der Wert, das, was man im Silicon Valley den Mode nennt, den Burggraben. Das ist der Wert des Ganzen, dass die Leute das nicht verlassen und man die dann eingefangen hat. Warum Apple mit dem App Store 30 Prozent nehmen kann, weil niemand das iPhone weggibt und wegwechselt. Das heißt, ich muss meine App auf dem iPhone anbieten, weil ich die User da nicht wegkriege. Das ist bei Chatbots nicht so. Die werden dauernd gewechselt. Das hat man jetzt gesehen, Anfang dieses Jahres sind super viele Leute von OpenAI weg zu Claude gegangen.
schon ist diese ganze Milliardenbewertung und diese ganze Rieseninvestition in KI komplett für'n Arsch. Sobald ich einfach hin und her wechseln kann ...
und kein Mode entsteht, wie soll das Investment zurückkommen?
Mina (10:51)
Naja, abgesehen davon, dass es ja mittlerweile auch Berichte gibt, dass es eigentlich günstiger ist für viele Unternehmen wieder die Menschen einzustellen, die sie jetzt alle entlassen haben, statt Bing-AI und einfach die Tokens, die man verbrennt, Prompts zu machen und dann diese kleine, süße App, wie Jensen Wang es bezeichnet hat, dass es günstiger ist, wenn das doch Menschen macht, was mich persönlich total schockiert.
Und die angeblichen Produktivitätssteigerungen sind ja immer noch gar nicht da. Also die sind ja noch gar nicht nachgewiesen.
Hagen (11:30)
Die Statistiken, wir jetzt sehen, dass es schlechter ist und schadet in der Produktivität. Das ist das Problem, dass es kurzfristig hilft, aber langfristig Alles, was längerfristig ist, zu einem massiven Problem wird. Und du hast das so im Nebensatz gesagt, dass es günstiger ist, Menschen zu machen als eine AI zu benutzen. Das ist keine neue Erkenntnis, das ist Lustige. Alle tun die ganze Zeit so. Aber haben das seit Jahren immer wieder gesehen, dass Leute gesagt haben, das sind unsere automatisierten Computersysteme.
Und in Wahrheit waren es Menschen im globalen Süden, die für sehr wenig Geld Sachen gemacht haben. Als Amazon diesen Supermarkt eingeführt hat, wo es keine Kassen gab, wo man nichts machen musste. Du nimmst das aus dem Regal und es rechnet das automatisch ab. Was kam raus? Menschen im globalen Süden haben dich durch Kameras beobachtet und das Hintergrund eingetippt. die Waymo-automatisierten Autos, die alles alleine machen.
Nee, da stehen leider Menschen dahinter, die sich das auch schon mit angucken und beim Fernsteuern helfen. Die machen nicht die komplette Fahrt, aber die helfen
Mina (12:29)
Ja gut, also ja klar, ich verstehe, was du meinst. Und gleichzeitig, also ein Chat GPT existiert ja, ein Cloud existiert ja, das gibt's ja alles. Und die schaffen es ja auch, Sachen zu erzeugen und schnell zu machen. Was ich...
Also für mich ist das wirklich so ein bisschen wie des Kaisers neue KI.
Ich frage mich halt, wann reden wir denn mal darüber?
dass das halt genauso eine Blase ist wie NFTs und wie das ... Wie hieß die Scheiße? Sorry. Aber wie hieß diese ... Metaverse. Meine Fresse. Also, ich ... Alle wollten dieses Metaverse verkaufen. Und ich ... Ja, aber auch ... Nein, also auch
Hagen (13:01)
Das Metaverse? Du meinst das Metaverse?
Meta wollte das Metaverse verkaufen. Und Epic.
Mina (13:12)
Ich hab auch eine Zeit lang, als ich von TikTok weg bin, auch nach Jobs geguckt und so. Dann hieß es immer, ich dich fürs Metaverse interessieren. Ich so, ich interessier mich nicht dafür. ist Quatsch. Hast du mal geguckt, wie das aussieht? Warum soll ich mich dafür interessieren?
Hagen (13:23)
Ich mein, Meta hat die ganz ...
Mina (13:28)
nicht zu sagen, dass es nicht auch Vorteile haben kann. Oder dass man damit auch coole Sachen machen kann. Also für mich, zum Beispiel ChatGPT, ich muss was googeln und ich will was rausfinden. Ich möchte irgendwie mir, möchte was rausfinden, was aggregiert wird und sortiert wird. Ja, cool. Ist super dafür. Kannst du da reinmachen? Naja, also man muss halt schon noch bisschen verifizieren. Viele Leute, man muss ...
Hagen (13:54)
bisschen? Jedes Mal. Jedes Mal, ich es benutze, jedes Mal finde ich Fehler. Jedes Mal.
Mina (13:59)
Ja, also ... Für mich kommt es drauf an, wie sehr ich mich mit Sachen auskenne. Wenn ich etwas rausfinden möchte oder aggregieren möchte, wo ich mich gut auskenne und es rausfiltern kann, was davon Quatsch ist und was nicht. Aber jetzt hab ich über 20 Jahre Berufserfahrung, vielleicht auch anders als jemand, der das mit 23 benutzt. Keine Ahnung. Aber wenn man das gesund in eine Suchmaschine integrieren würde oder gesund irgendwo, wo man auch einfach weiß ... Das ist mich das, was man lernen müsste.
der Prompt, sondern wie liest man die Ergebnisse und wie ordnet man diese Ergebnisse ein. Und gleichzeitig wird aber dann so getan, als ob wir alle durch Chechy B.T. oder Claude oder Gemini oder was auch immer gerade Flavor des Tages ist, ersetzt werden. Und ich meine, es werden ja auch tatsächlich Leute entlassen. Und es gibt schon auch Sachen, die man automatisieren kann, aber etwas zwischen etwas zu automatisieren...
Und einen Menschen, der selber denken kann, zu ersetzen, und der kreativ sein kann, und der abstrahieren kann, und der weiter denken kann, das sind für mich Welten. Und wenn das Letztere jetzt hier, sieht man nicht, wenn das jetzt, das Letztere, ich gesagt hab, wenn das AGI sein soll, ich ... Also, wir können nicht nah dran sein. Also, das ...
Für mich dieses automatisierte noch so fehlerhaft noch so weit weg.
Hagen (15:29)
Das Problem ist ja auch schon ganz anders, wenn du von der Blase sprichst. Also ich stimme dir zu bei einem, was du sagst, nur dass ich da noch kritischer bin, was den Nutzen von Chatbots angeht. Die nächste Sache ist, wenn wir das Wort automatisieren in die Hand nehmen. Automatisieren ist für eine einzige Sache relevant und das sind Businesskunden. Das hat, sieht man auch daran, dass Anthropic zum Beispiel komplett nur noch auf Businesskunden geht. Die sind am Privatkundengeschäft kaum noch interessiert.
Gleichzeitig sind die Investitionen, die in KI getätigt werden, aber so groß, es irgendwie wie Smartphone, wie Google sein muss, dass wir da privat die ganze Zeit draufhängen. Privatautomatisieren wir aber nicht. Das sehen wir schon daran, wie viele Leute keinen Bock haben, ihr Smartphone komplett zusammenzubasten, obwohl das praktisch sein könnte. Leute haben keinen Bock, krasse Sachen durch zu automatisieren. Das entspricht nicht der Realität. Das heißt, als Konsumeprodukt macht das doppelt und dreifach keinen Sinn dadurch.
Mina (16:20)
Ja, weil du müsstest halt wissen, was du genau möchtest und du musst dich dann damit beschäftigen, was dein Prozess ist und du musst einen Wissensstand schon haben, den du dann ...
aggregieren lassen kannst oder automatisieren lassen kannst und diesen Wissensstand überhaupt zu haben und zu wissen, in welchem Kontext du den anwendest und abrufst und was du davon wegnimmst oder was du davon noch brauchst. Also vielleicht ist das auch das Prompt, sorry, also no offense an die Leute, das machen.
Hagen (16:50)
Doch, Offense.
Mina (16:52)
Also ich bin da nicht so so fatalistisch. Ich finde das prinzipiell gut, sich damit zu beschäftigen, weil offensichtlich ist es da. Ich glaube nur nicht daran, dass das langfristig, also ja, aktuell ist die Disruption offensichtlich da. Offensichtlich. Genau, aber ich glaube nicht, dass das nachhaltig oder mittelfristig, vielleicht langfristig nachhaltig
Hagen (17:08)
Aber auch weil jemand anders die Rechnung bezahlt. Also die Sache ist ... Genau.
Mina (17:20)
verändern und außer in begrenzten Bereichen.
Hagen (17:22)
Also das ist
halt total wichtig, wie viel davon gerade Venture Capital ist, um die Preise künstlich zu drücken. Ich kenn die aktuellen Zahlen nicht, aber das letzte Mal, als das bekannt wurde, als das ChatGPT Pro, dieses Abo für 100 Dollar im Monat, hat ChatGPT immer noch Geld verloren. Was heißt, man müsste denen mehr als 100 Dollar im Monat zahlen, damit es Geld macht, wenn man es benutzt. so ... Damit ist es für Privatkunden komplett tot.
Das ist nicht möglich. Kein Privatkunde wird so viel Geld in die Hand nehmen. ist nicht möglich. Leute jammern bei einem 20 Euro im Monat. Ich bin einer davon. Das ist zu viel. Das geht halt einfach nicht. Und ... Das ist halt ein massives Problem. Das heißt, die ganzen Unternehmen, machen jetzt Rechnungen, also die das benutzen, machen Rechnungen mit einem subventionierten Preis. Das ist was, was ich auf Unternehmensseite nicht verstehe. Selbst wenn man sagt, das hilft denen jetzt, und jetzt rechnet sich das für
Wie häufig machen wir diesen Big-Tech-Venture-Capital-Cycle noch, wo die dann sich komplett blind stellen und vergessen, dass diese Preise angehoben werden müssen? Es wird kein Weg daran vorbeigehen. Diese Preise werden massiv angehoben werden müssen. Und wie häufig will man da noch auf die Fresse fallen und sich als Medienunternehmen von Facebook subventionieren lassen, Videos zu posten? dann hat Facebook kein Interesse mehr und du kannst alle deine Leute entlassen.
Das haben wir so oft gesehen und die fallen wieder drauf rein. Irgendwann seid ihr halt auch einfach dumm.
Mina (18:46)
Also ich habe eine Theorie, warum so viele Unternehmen auf AI setzen. Soll ich sagen? Also als jemand, die Teams und sogar eine Abteilung geleitet hat, irgendwann bist du so weit weg von dem Tagesgeschäft und du bist nur noch am entscheiden.
Hagen (18:52)
Hau raus!
Mina (19:09)
bist jeden Tag damit beschäftigt, Entscheidungen zu treffen.
Du musst deine Entscheidung auf dem basieren, was dir Leute sagen, entweder in einer Präsentation oder Zusammenfassung. Du hast gar nicht die Zeit, das alles zu verifizieren. Du musst anderen vertrauen. Ich finde, schlimmsten Führungskräfte sind immer noch die, die nicht entscheiden können. Und natürlich wirst du auch Entscheidungen treffen, die falsch sind. Also, ich habe ...
teilweise auf die falschen Personen im Team gesetzt oder ich habe falsche Aufgaben assigned oder ich meine, meine bekannteste falsche Entscheidung hat irgendwie mal global Server gecrashed. Ja, das war halt eine scheiße Entscheidung. Und das ist auch gruselig und das macht nervös und das erfordert
eine Ruhe in sich selbst erfordert Selbstvertrauen, das erfordert Vertrauen in das Team, andere. Dann bist du nur bei deinem eigenen Team, dann kommen noch Cross-Functional-Teams und so weiter. So, und jetzt bist du der CEO. Oder du bist ein entscheidender Manager. Jetzt ist das natürlich noch schlimmer als bei so einem randomen Teamlead, oder Abteilungsleiterin, oder Bereichsleiterin wie ich.
So, das heißt, du musst für Tausende von Mitarbeitenden Entscheidungen treffen. Du musst für Shareholder Entscheidungen treffen. Das hängt super viel Geld dran. hast den Druck ohne Ende. So, und jetzt kommt da so eine Anwendung und die kannst du alles fragen. Du kannst einfach reinschreiben und dann gibt die dir total selbstbewusst eine Antwort und du denkst, geil, das ist ein neutrales System.
was mir mit Quellen, ob die jetzt stimmen oder nicht, weil du hast ja keine Zeit, zu verifizieren, du bist ja CEO oder Chef, es gibt mir jetzt total viel Information und das macht mir meine Entscheidung. Und wow, ich fühle mich empowered. Und letztendlich, es also für mich, an der Unternehmensseite, wenn es Software geht, und ich habe wirklich viel Unternehmens-, Wirtschaftskapitalismus-Gedöns durch, in Konzernen,
im Wissenschaftskontext, in Politik, in allen möglichen Bereichen. Und ich erinnere mich, was ich an Systemen, mit Systemen verbinde, ist immer, wie ich mich gefühlt hab, wenn ich die benutzt hab. Ja, also ich weiß SAP, mega powerful. Absoluter Abfuck, das zu benutzen. Absoluter Abfuck. Absoluter Abfuck, das zu kostumisen, ja, auf dein Unternehmen. Aber es ist mega powerful. So, dann weiß ich nicht, Office Suite, fucking Teams. Komplett, also ich musste da dran denken, denk so, uuuh.
Aber gleichzeitig, und dann kommt so ein AI-Gedöns die Ecke, und du bist der Chef, und du fühlst dich empowered. Und deine deine Novisität, Entscheidungen zu treffen. Plötzlich fühlst du dich viel besser. Und meine Hypothese ist das, dass du denkst, wow, jetzt auch noch alle mich rum. Das ist ja auch noch mal so Habitus und Statusignal. Die anderen gehen ja jetzt auch da drauf. Irgendeiner erste Domino-Stein ist gefallen, ich will ja nichts verpassen. Und außerdem ...
Kann ich jetzt hier irgendwelche Sachen da reinschreiben und ich fühle mich, als ob ich Kontrolle habe, ob ich die jetzt wirklich habe oder nicht, das ist mal dahingestellt.
Hagen (22:22)
Aber da kommen wir für mich in mein absolutes Pet-Peeve, was man eigentlich auf Kapitalismus allgemein ausweiten kann, aber was gerade im Tech-Sektor total Oberhand genommen hat. Und das ist ein komplettes falsches Verständnis davon, wie die Menschheit und ihr Zusammenspiel funktioniert. Weil es wird dauernd darüber gesprochen, als wäre anderen Menschen zu vertrauen blöd, als wäre das was Schlechtes.
dieses Ding, wir müssen das da rausnehmen. Aber das ist nicht, wie eine Gesellschaft funktioniert. Unsere gesamte Gesellschaft funktioniert auf Vertrauen. Und die gleiche Logik, das haben ja auch diese Bitcoiner verfolgt. Wie wär's, wenn wir da niemanden vertrauen müssen? Das ist schlecht! Keinen Menschen mehr zu vertrauen ist schlecht. Wir Menschen sind soziale Wesen, wir sind aufeinander angewiesen. Und dieses ganze Problem, was du beschrieben hast, ist das riesige Problem, was wir bei der Entwicklung von Kapitalismus sehen.
Dass immer mehr Es ist quasi immer mehr Mittelmanagement, was dann eingeführt wird, damit du dich von den Konsequenzen deiner eigenen Entscheidung so weit wie möglich entfernst. Es ist viel, viel schwieriger, einen Fabrikstandort zu schließen, wenn du nicht selber an dem Fabrikstandort arbeitest und den Leuten ins Gesicht guckst, du kündigst. du die Leute, die du jeden Tag gesehen hast, denen du zusammen Mittagspause verbringst, stattdessen entscheidet das irgendein Typ ...
irgendwo ganz anderes am besten noch von einer Beratungsfirma eingestellt, damit die niemals irgenden Menschen gesehen haben. Und dieses ganze Konzept ...
Mina (23:53)
Genau.
Aber jetzt kommt's nämlich, weil wenn du jetzt dann mit der AI arbeitest, dann fühlst du dich ein bisschen wie Undercover-Boss. Weil dann kannst du ja cosplayen und irgendwie so einen kleinen Ausflug, ja, jetzt fühlst du dich mal wieder wie derjenige, da unten sitzt und arbeitet. Ja, ne? Weil du lässt jetzt Claude deine Apps programmieren oder deine Features, anstatt das selber noch mal hinzusetzen und fünf Tage lang selber zu crunchen, ja? Oder du lässt Claude oder AOT-GBT ein Bild erstellen, statt einen Designer zu briefen.
auch schwer ist. und also das ist, es ist und ich glaube, es kommt noch was dazu und zwar der ganze gesellschaftliche Fortschritt in Sachen Diversität, den wir in letzten zehn Jahren hatten. Der hat sehr viele, vor allen Dingen weiße Männer, Millennials und älter, sehr verunsichert und dieser ganze Fortschritt
In meinen Augen führt dazu, man sich danach sehnt, etwas Objektives zu haben. Das Objektive ist natürlich jetzt AI, die von lauter weißen Männern verkauft wird.
Hagen (25:09)
Das ist wichtig. Ich glaube, das ist auch noch mal kurz wichtig zu betonen. Wir sagen das gerade aus einer ironischen Ebene, aber für die, es tatsächlich noch nicht mitbekommen haben sollten. KI ist nicht neutral. Sie basiert auf Daten, die aus dem ganzen Internet zusammengesammelt und ... kondensiert wurden. Wer ist im Internet überwiegend vertreten? Weiße Männer. Darum findet man auch mal wieder Rassismus und so weiter. Das lässt sich auch nicht einfach rauspatchen. Du kannst KI nicht einfach sagen, sei nicht rassistisch.
Inherent in dieser Technologie sind Diskriminierungsstrukturen eingebacken und die lassen sich auch nicht einfach rauskriegen. Das ist in jedem KI-System, das wir haben, drin. Auch wenn es sich nicht so anfühlt, das ist nämlich so das nächste Problem, die sind alle so programmiert, dass sie einem nach dem Mund reden und einem immer sagen, dass es eine gute Idee ist, auch wenn es keine ist. nur das mal zu haben, und das ist wirklich keine Meinung, das ist ein Fakt, alle KI-Systeme sind massivst biasbehaftet.
Mina (26:04)
da sind wir ja auch schon eigentlich bei Palantir.
für alle, es nicht kennen, wie würdest du es... Also ich würde es als Überwachungssicherheits-Konglomerat-Tech-Unternehmen...
Hagen (26:21)
So
Mina (26:21)
beschreiben.
Hagen (26:22)
wollen die sich auf jeden Fall gerne sehen. Ja, die stellen sich so als diese AI-Waffen-Company, so die KI quasi so für Überwachungsbehörden und Krieg möglich macht. Ich sag mal so, meine Recherchen haben ergeben, dass die sehr viel versprechen und davon nicht unbedingt alles halten. wir haben jetzt viel gehört, dass Pallantiere von deutschen Polizeien eingesetzt werden sollen, mit diesem Produkt Gotham.
Und da ist eigentlich die Idee. Du Palantier ist nach dem Ding aus Herr der Ringe benannt. Was erwartest du?
Mina (26:48)
Warte mal kurz, heißt Gotham?
Ja, okay, es geht gleich.
Hagen (26:58)
Ja. Also, und was die Idee ist, ist Polizeidatenbanken, die sind ja, es gibt eine Datenbank, da sind Verdächtige drin, es gibt eine Datenbank, da sind auch Verdächtige, und die sind gerade in Deutschland absichtlich nicht verknüpft. Weil ich möchte nicht, dass Leute, die mal verdächtigt wurden, aber nie für irgendwas verurteilt wurden, auftauen. Wir haben Datenschutzrechte. Wir haben
eine Gesellschaft, wo eigentlich die Unschuldsvermutung gilt von staatlicher Seite. Das heißt, die dürfen dich nicht einfach irgendwie verdächtigen, es muss dafür Gründe geben. Und was Palantir jetzt macht, ist, diese Datenbanken zu verknüpfen. Die Datenbanken dürfen nicht verknüpft sein, aber du kannst es in Palantir eingeben und dann suchen diese in jeder Datenbank quasi und vermengen das. Das ist so ein bisschen das Versprechen. Palantir wird auch eingesetzt von der Ukraine.
in dem Angriffskrieg durch Russland, in der Verteidigung, wo dann halt so Mustererkennung und solche Sachen benutzt werden. Im Grunde ist das alles bisschen langweilig, was Palantir macht. Die schreiben übrigens auch massive Verluste. Ich glaube, dieses Jahr ist das erste Jahr, wo sie keinen Verlust schreiben und jetzt mit den massiven US-Aufträgen diese Milliarden verschuldet mit ihren KI-Modellen. Aber im Grunde ist das, was Palantir macht, Datenbanken zu verknüpfen, Sachen zu erkennen,
vermeintliche Muster zu erkennen. Das ist das Versprechen von Palantir.
Mina (28:14)
Also ich finde das schon bemerkenswert, dass man im Sicherheitsbereich, wo die Hauptkunden Nationen sind, man da Verluste schreibt. Das muss man schon können. Das kann eine AGI nicht. Das muss man auch mal so sagen.
Hagen (28:29)
Ja,
das Problem ist natürlich, dass man es an die Polizei verkaufen wollte und dafür irgendwie erstmal wenig Geld nehmen wollte, damit die das bitte kaufen. Wie Sie Konzepte, Peter Thier steht dahinter mit dem Finanzkonzept. Und das dann machen und dann, dass man dann da die Preise anziehen kann.
Mina (28:46)
Genau, so, danke. Jetzt haben wir einmal kurz Palantir ... Eingenordet, ich würd die gerne einordnen. Ich würde die auch gerne einordnen, wenn man kurz erklärt, was das ist. Und da ging jetzt rum, und zwar nicht, weil sich jemand wieder drauf aufgeregt hat über die Äußerungen, die letztes Jahr schon in Buchert erschienen sind von Alex Carp, sondern weil Palantir das selber rausgetwittert hat noch mal.
Hagen (28:54)
Ich würde die auch gerne einordnen.
Mina (29:14)
Lass uns doch mal gucken, was die da so rausgetwittert haben. Rausgeext haben.
Hagen (29:16)
Genau, was nochmal Alex Karp, der bei Habermas studiert hat und darum sicher gute Gedanken machen kann über Sachen. Was der für Pläne hat für seine Technological Republic. Ich hab mal die, glaub ich, für unsere Unterhaltung interessanteren Punkte rausgenommen Silicon Valley must play a role in addressing violent crime. Also man braucht einfach Technologie diese aufkommenden Gewalt.
dieser Kriminalität entgegenzutreten, was natürlich bisschen Quatsch ist, weil wir kennen die Violent Crime Statistics und die sind gesunken über die Jahrzehnte. Also unsere Gesellschaften sind sicherer geworden über die Jahre. Das ist also so wie das Fear-Mongering, aber hey, okay, Palantir verkauft ein Sicherheitsprodukt, das macht Sinn, die wollen ein bisschen Angst schüren, damit die diese Sachen verkaufen. Meinetwegen. Dann wirklich wichtig
In Punkt 21 ist die Überschrift, also das ist schlicht rassistische Rhetorik, wo er Zivilisation als fortschriftlich und rück- schrittlich einordnet. Natürlich sind die USA ganz da vorne dabei. Einer der Punkte ist auch, dass niemand jemals so progressiv war wie die USA.
Aber das ist halt was, was der Offen sagt, dass bestimmte Kulturen regressiv sind und andere eben nicht.
Mina (30:39)
Und auch das, also der letzte Satz ist ja noch, dass manche Kulturen schädlich sind.
Hagen (30:47)
regressiv und schädlich. Und das folgt dann auch in Punkt 22. We shallow temptation of a vacant and hollow pluralism. Also, anders gesagt, Pluralismus ist extrem schlimm. Und das gesellschaftliche Problem.
Mina (31:01)
Ja, und hohl.
Also, wie eben schon in dieser AI-Diskussion, wir hatten, dass wir so viele Fortschritte gemacht haben, was Diversität angeht, hat, glaub ich, vielen Männern sehr viel Angst gemacht. Und vor allen Dingen,
da sind ja lauter Signale an rechte Kreise, ne? Auch dieses hast du das gerade mit Deutschland, was das so Deutschland und Japan
von der Kastration zu dass sich Deutschland selbst oder durch beschnitten wurde, also diese Worte sind natürlich auch alle sehr fallisch besetzt, wie es bei Rechten natürlich auch immer gerne der Fall
das ganze Ding mit dem Neutering und Deutschland, ist halt diese Dog-Whistle anrechte Deutschland könnte ja in seine Macht kommen, die Deutschland ja eigentlich zustehen würde.
Also ich meine, man könnte natürlich jetzt auch irgendwie davon sprechen, dass nach dem Zweiten Weltkrieg global sich sehr viele Kräfte sehr extrem verschoben haben, nicht nur bei Deutschland und Japan. Darüber wird aber kein Wort verloren. Und das ist halt schon sehr speziell, dass Deutschland da auch hervorgehoben wird. Und das ist für Leute, sich so ein bisschen mit
rechtsextremistischen Whistlin beschäftigen, es einfach so deutlich, was da gefordert wird. Und zwar eine homogene, einheitliche Gesellschaft, die die kulturellen Errungenschaften der letzten 10, 20, 30 Jahre zurückdreht.
Hagen (32:45)
Weiter, Sowohl von Peter Thiel als auch von Alex Karp gibt es offizielle Aussagen, dass Sie Demokratie für überbewertet halten. Sie sind aktive Demokratiegegner. Das ist auch Zitate. Also es gibt Zitate, wo Sie sich literally darüber geäußert haben, dass Sie Demokratie schlecht finden.
Mina (32:59)
Ja, also ich muss da so bisschen dran denken, ich habe ja BWL studiert, sorry. Also ich habe ja BWL studiert, noch schlimmer, ich habe das im dualen Studium gemacht. Also ich bei Bayer so Programm gemacht, Ausbildung, Fachhochschule und dann später ein MBA. Und während dieser, Fachhochschulstudiums, da weiß ich noch, hatten wir mal einen Tag so eine Debatte
wenn Jesus Diktator wäre, ob das sinnvoll wäre. Und da haben wir uns wirklich komplett bis aufs Blut diskutiert. Und ich, kleines Arbeiterkind, ja.
Ich kannte es ja nicht besser. Ich bin hier nicht mit Habermas und Bordieu aufgewachsen.
So und ich saß da nämlich sehr überzeugt in Vorlesung und war sehr überzeugt, dass ein guter Dektator doch endlich mal die Sachen richten könnte, die alle schief laufen, weil Demokratie ist ja einfach mühsam und es könnte man ja auch skippen. Zum Glück
habe ich genug reale erlebt und genug gelernt, mich von diesem Menschen- und Weltbild zu entfernen. Aber ich glaube, ist halt wirklich dieses Menschen- und Weltbild von vielen dieser Tech-Faschisten. sorry, ich jetzt nicht verklagt werden, von diesen Tech-CEOs und Tech-Faschisten. müssen ja nicht, das müssen ja kein Wenn, also das Wenn-Diagramm kann ja auch separat sein.
Hagen (34:19)
Ich meine, da gibt's auch in der Vergangenheit
... Also, das darf man ja auch nicht vergessen, was das für ein Bild ist. Das sind ja Leute, kommen sehr viel aus diesem sehr libertären Spektrum. Und da sind ja immer solche Überschneidungen. Also, ich erinnere mich vor Ewigkeiten. Ich weiß nicht, ob's Larry Page oder Sergey Brin oder beide waren, also die beiden Google-Gründer, die irgendwie überlegt haben, ob man irgendwie ein Kreuzfahrtschiff oder so eine Insel als extra-territoriales Gelände haben könnte, wo dann keine Gesetze gelten, wo man so eine
ultra-libertäre Society testen könnte und so weiter. wenn wir jetzt sagen ... Super, garantiert.
Mina (34:52)
Bestimmt voll gut für Frauen.
ich denke, das Krasse bei Palantir ist für mich einfach so, wir diskutieren, ob deren Software in Deutschland eingesetzt wird. Dahinter steht aber, und die Software, wir eben schon in dem AGI-Teil ja auch schon festgestellt haben, die Software basiert ja auf einer Aggregation. Und wie jeder, der wissenschaftlich mit Daten arbeiten musste, weiß,
dass man wirklich sehr viel Mühe reinstecken muss, Bias rauszurechnen. Nicht zu vermeiden, sondern ihn rauszurechnen.
Hagen (35:30)
sehr kontrollierten
Datensätzen, die du als Mensch überblicken kannst und nicht wir haben bei allem, was wir jemals gesehen haben, das eingesammelt.
Mina (35:36)
Richtig so und das heißt schon sehr krass so ein System, was schon sehr viel Bias hat und dann ist es auch noch ein System, was von einem Unternehmen geliefert wird oder hergestellt wird, das so ein Weltbild hat, was gute Kulturen sieht und schlechte Kulturen, was am besten einen Vorkriegsstatus wieder herstellen möchte oder während Weltkriegsstatus, was von
was irgendwie rassistische Forderungen und Dog Whistles und Signale sendet. da läuft es mir einfach kalt den Rücken runter. Und darüber...
Hagen (36:20)
Ich meine, es ist so schlimm, dass
die Bundeswehr General jetzt gesagt hat, Nepaland, hier wollen wir lieber nicht haben. Also jemand von der Bundeswehr hat gesagt, I don't know man.
Mina (36:28)
Ja, also das sollte einem schon echt zu denken geben. das ist wirklich ein Problem. Und ich würde mir da wirklich, wenn wir machen, glaube ich, noch mal eine Folge. Wo ist die ganze Gesetzgebung?
Hagen (36:46)
sich das vorzustellen mit diesem Bias von den Daten, wie man das gut erklären kann, man muss sich mal angucken, so in der Vergangenheit, eine Apple Watch zum Beispiel hatte Schwierigkeiten mit dunkleren Hauttönen. weil bei dem Testpublikum oder das, woran sie es getestet haben, das eben nicht genug berücksichtigt wurde oder dass man
Man muss nur in die Vergangenheit gehen, wo analoger Kodak-Film Weiße Menschen sind super auf den Fotos. Schwarze sind fast nicht aufgetaucht, wurde halt leider nicht für die entwickelt. Dieser Bias zieht sich halt durch alles durch. Das hat man auch so bei Palantir-Datensatz. Und ohne überprüfen zu können, wie genau der Weg ist, und das ist Problem bei Machine-Learning-Modellen allgemein. Wenn man Chat-GPT benutzt oder YouTube-Algorithmus ...
Die können einem nicht sagen, wie sie zu dem Ergebnis gekommen sind. hast das Ergebnis und die Anfrage, aber es gibt keinen direkten Pfad, der verfolgbar ist für Menschen. Das ist technisch nicht möglich. Das heißt, ist bei einem Palantireinsatz unklar, ob der nicht bei Bildern gesehen hat, die Kriminalitätswahrscheinlichkeit ist höher, weil dunkle Hautfarbe. Genau das kann passieren. Und das ist nicht überprüfbar. Das ist in Deutschland überhaupt nicht erlaubt, das zu machen. Aber das ist natürlich ...
Polizeibeamten könntest du wenigstens fragen und sehr, sehr große Annahme, er lügt jetzt nicht, warum er es gemacht hat, dann könntest du ihm sagen, das darfst du ihm nicht machen. Das kannst du in einem Algorithmus, wo du nicht rausfinden kannst, warum er diesen Weg gegangen ist, wie willst du das beweisen, es auszumerzen? Und das ist halt ein massives Problem.
Mina (38:18)
ja, und ich bin auch keine Tech-Frau.
Philosophin. Aber ich finde, da sollte man sich schon, also ich würde da zumindest gerne mal darüber diskutieren, weil wir diskutieren auch darüber, ja, was, sind die Folgen von Instagram Nutzung, von TikTok Nutzung, einer, von einer Suchtgefahr für Leute, was macht das mit den Gehirnen von Heranwachsenden und das ist auch alles komplett zu Recht, by the way, dass das diskutiert wird. Und ich finde, da muss dann auch mal überlegt werden, ja, wenn der Fied, der, der da kuratiert wird und der dir gezeigt wird und der dich irgendwie so huckt.
Wenn das ein Problem ist, warum diskutieren wir das nicht bei AI-Zeug?
Hagen (38:53)
Ich würde die Debatte, glaube ich, gerade bei Palantir noch an einem anderen Punkt ansetzen, weil ich das jetzt von vielen Leuten gesehen habe, gerade nach diesen Statements, die immer wieder kommen, ist, warum investieren wir nicht in europäisches Palantir? Warum investieren wir nicht in deutsches Palantir? Dass wir eine Alternative haben, die nicht diese faschistischen Ansichten haben. Und ich finde, dass eine Herangehensweise, die wir ganz häufig haben, wenn es diese Debatte gibt, digitale Souveränität, Loslösen von US-Sachen,
dass wir uns nicht die Gedanken machen, warum sind es ausgerechnet diese Unternehmen, die diese Tools machen? Hat das nicht eine Auswirkung darauf, dass diese Tools existieren? Kann ein Unternehmen, das nicht mit faschistischem Gedankengut geprägt ist, eine Software wie Palantir, die zur Totalüberwachung dient,
Wenn man komplett pallant herauswerfen würde und Software mit der gleichen Funktion von jemandem anderen kaufen würde, der sich hinstellt und sagt, protodemokratisch, fände ich es nicht besser. Das Problem ist die Existenz dieser Software. Und diese Software ist unabdingbar mit faschistischem Gedankengut verknüpft. Viel von dem, wie Sachen wie AI passiert ist. ... Das ist von libertären Gedankengut ...
Das ist nicht losgelöst voneinander. Nur, wenn du dieses Gedankengut hast, kannst du so eine Technologie machen. Wir müssen auch mal darüber reden, wenn wir eine Technologie frei von diesem Gedankengut wollen, wie sieht die aus? Es kann kein eins zu eins-Klon sein. Es reicht auch nicht, dass man das open source und gemeinschaftlich macht. Fundamentale Designentscheidungen müssen schon anders getroffen werden, davon rauszukommen. Weil ...
Mina (40:28)
Ja, bin...
Wir gucken halt von zwei verschiedenen Punkten drauf. Du guckst darauf, dass die Software an sich, die für eine totale Überwachung sorgt, sich dürfte nicht existieren, egal wie gut die Datenbasis. Und ich sag halt, schlechte Datenbasis, egal was für eine Software rauskommt, ob die jetzt total Überwachung ist oder was auch immer, schlechte Datenbasis, die von Unternehmen gemacht wird,
Also ich glaube, das beides, wir wollen beide auf das gleiche hinaus, aber gucken mal von unterschiedlichen Perspektiven drauf. Ich denke halt, egal was für eine Software da rauskommt, mit so einem Bias und mit so einem Weltbild, das ist gefährlich und das ist wirklich gefährlich für die Gesellschaft und für Leute. Und du sagst halt ja in die Software, dass was rauskommt, egal
was da was wir reingeben ja wie egal wie pur das ist trotzdem gefährlich und das ist ich glaube das stimmt einfach beides ja und ich meine jetzt mal abgesehen davon also die og faschisten waren immer noch europa also auch noch mal festhalten ich weiß jetzt nicht warum der ansatz ist vor allem deutschland
Hagen (41:31)
genau. Nächstes Mal dann vielleicht andere Themen, vielleicht ein bisschen aufheitern da sind. Es ist auf jeden Fall schwer, weniger aufheitern zu sein. Aber ja, bis dahin sagen wir schon mal. Tschüss!
Mina (41:41)
Genau, vielen Dank fürs Zuhören oder vielleicht auch Zusehen. Wenn es euch gefallen hat, bitte abonniert uns. Ich bin so eine schlechte Influencerin.
Hagen (41:50)
Erzählt euren
Freunden von uns. Ja.
Mina (41:52)
Wirklich, erzählt euren
Freunden und Kollegen und euren Gewerkschaftsvorsitzenden von uns.
like und subscribt und ihr Hagen unter Add-Ausnahmsweise Achso.
Hagen (42:05)
Das brauchen wir gar nicht zu versuchen.
So unterschiedlich wie Handles heute aufgebaut sind, ist das alles broken. Ihr findet Links zu unseren Social-Profilen in den Show-Notes.
Mina (42:10)
Ach so, okay, warte dann.
Bye!
