Ersetzt Künstliche Intelligenz die Programmierer, Andry Joos?

INTRO: Wer die Gesellschaft verändern will, muss sie erreichen. Aber wie geht das eigentlich? Und was muss sich ändern? In diesem Podcast sprechen wir über Ideen und Themen, die uns inspirieren und die etwas bewegen. Jede Staffel neu, mal mit Gästen im Dialog und mal ganz anders. Das ist sprich!, der Podcast von neues handeln.

Björn Burkhard: Hallo bei sprich! Mein Name ist Björn Burkhard, und ich werde in dieser Staffel mit verschiedenen Menschen über das Thema "Künstliche Intelligenz und Kreativität" sprechen. Lange galten kreative Berufe als geschützt vor den KIs. Ist das noch so? Dazu habe ich heute mit Andry Joos gesprochen. Er gehört zur Demoszene, einer der ältesten Computer- Communitys, er kennt sich also bestens mit Programmierung und digitaler Kultur aus. Was würdest du in zwei, drei Sätzen sagen, was ist für dich Kreativität?

Andry Joos: In Bezug auf das, was wir tun in der Demoszene, ist für mich die Kreativität sehr stark darin bedingt, dass wir uns mit Werkzeugen oder mit Hardware oder mit Programmiersprachen oder einfach auch mit Einschränkungen und Limitierungen in einer kreativen Form auseinandersetzen und diese einerseits nutzen, andererseits aber auch versuchen, an ihre Grenzen zu bringen oder sogar auszuhebeln. Ein schönes Beispiel ist dafür immer wieder, dass heutzutage immer noch auf Computer wie dem Commodore 64 neue Grafikeffekte und eben solche Demos entstehen, und die zeigen eigentlich Möglichkeiten, die sich die ursprünglichen Erfinder und Entwickler des C64 in den 80 Jahren nie ausgedacht hätten, dass das mit dieser Hardware jemals möglich sein würde. Und das ist für mich die Kreativität in der Demoszene, wenn es wirklich darum geht, auch neue Wege zu finden, auf längstens äußerst gut bekannter oder vermeintlich bekannter Hardware neue Wege zu finden, diese auszureizen. Oder halt immer wirklich mit Limiten, zum Teil sich selber gegebenen Limiten, zu versuchen, Ziele zu erreichen, die man so nicht erwartet hätte oder für möglich gehalten hätte.

Björn Burkhard: Ich bin der Überzeugung, dass sicherlich künstliche Intelligenz bei euch auch ein Thema ist. Wie wird das bei euch diskutiert und behandelt und gedacht, oder auch bei dir persönlich?

Andry Joos: Das ist ein guter, guter Punkt. Das Thema ist natürlich in den letzten, ich hätte fast gesagt Wochen, gefühlt Wochen, aber sicher Monate, natürlich stärker aufgekommen mit der allgemeinen Verfügbarkeit dieser DALL-E und mit Midjourney und wie sie alle heißen. Denn die Demoszene hat gerade im grafischen Bereich auch immer eine starke eigene Ausdrucksform repräsentiert. Sei das im Bereich Retrocomputing, so diese typische Pixelart, also Pixelkunst, Pixelbilder. Sei das aber auch auf andere, also wirklich hardwaretypische Darstellungen, farbliche Limitierungen und so weiter, und all diese Aspekte sind in der Demoszene präsent und prägen so ein bisschen, das, wie Bilder aussehen. Es gibt Grafikartisten in der Demoszene, die haben ihren eigenen Stil entwickelt. Was man nicht weiß, ist, wie viele Leute jetzt tatsächlich anstatt selber Bilder zu malen auf die KI setzen, vielleicht auch als Basis, um eigene Kunstwerke weiter zu entwickeln. Das weiß man nicht, aber es gibt verschiedene Versuche, die da auch schon gemacht worden sind in der Community und es ist definitiv ein großes Thema, und ich kann gerne einige dieser kreativen Herangehensweisen schildern. Für mich ist es wichtig zu sagen, dass das vielleicht mein persönlicher Blick darauf sind diese AIs auch tatsächlich einfach Tools wie andere auch, die man nutzen kann. Also ich persönlich hab da, sehe das von dieser Warte aus.

Björn Burkhard: Aber das ist super interessant aus dieser Perspektive. Erzähl doch mal so ein Beispiel. Ich glaube, das könnte spannend sein, wie, ich sage jetzt mal, Menschen, die etwas, ein bisschen Ahnung haben, was unter der Motorhaube läuft, damit umgehen.

Andry Joos: Ja, also ein Beispiel, das ich persönlich sehr kreativ fand, was aber nicht sehr technisch jetzt gelagert ist. Aber man kann ja mit diesen Bildgeneratoren sehr viel Spaß haben, und dass, wenn man dann noch weiß, dass in der Demoszene immer auch der Wettbewerb wichtig ist. Also beispielsweise gibt es an unseren Events, an unseren Treffen, die regelmäßig stattfinden, das sind sogenannte Demopartys- kann man sich vorstellen wie so eine eine Mischung aus Lanparty und Filmfestival. Da gibt es dann verschiedene Wettbewerbe, und da scheint es, ich glaube in Finnland dann an einem Event einige kreative Köpfe gegeben zu haben, die haben gesagt: Hey, lass uns mit diesen künstlichen Intelligenzen einen Wettbewerb veranstalten. Und da gibt es dann verschiedene Varianten. Also man kann sagen, was die gemacht haben, ist, die haben gesagt: Hey, wir machen einen Grafikwettbewerb, wo die Leute aber nicht ein Bild einsenden oder eingeben oder in den Wettbewerb reingeben sondern ein Prompt. Also das Prompt ist der Text, den man dieser KI mitgibt, den sie dann als Grundlage oder als Auftrag für die Bilderzeugung nutzt. Und diese Prompts wurden dann offenbar auf einer eigenen Instanz ausgeführt, so dass man das auch nicht wirklich vorgängig natürlich testen konnte oder dann nicht wirklich wusste, was dabei rauskam. Und so war dann das erste Mal während dem Wettbewerb, in der Live-Darstellung des Wettbewerbs, sind diese Prompts dann zum ersten Mal von der KI ausgeführt wurden, und das scheint durchaus überraschende Resultate gegeben zu haben, was dann aus dem Text, den man da eingegeben hat, so generiert wurde.

Björn Burkhard: Konnte man da sicherstellen, dass das nicht vorweg getestet wurde?

Andry Joos: Da bin ich im Detail nicht sicher. Ich habe mir das so vorgestellt, dass sie das auf einer eigenen Instanz laufen ließen, wo dann natürlich gewisse Parameter gesetzt waren, die einfach, so eine KI ist ja immer auch von Trainingsdatensätzen abhängig, so dass man da, jede Instanz verhält sich am Schluss ein bisschen anders, und entsprechend gehe ich mal davon aus, dass natürlich schon ein Teil der Idee war, dass das wirklich nicht testbar war oder mindestens nicht hundertprozentig.

Björn Burkhard: Das ist ja jetzt sehr auf der, ich sag jetzt mal, Oberfläche. Wenn du jetzt sagst, auf einer eigenen Instanz gibt es auch Beispiele, wo man so ein bisschen tiefer reingegangen ist in die KI, die versucht hat, irgendwie auszutricksen. Es gibt ja so einige Beispiele, die da rumgeistern, wie man sie austricksen konnte. Ist das ein Thema bei euch, also quasi so, dass diese Limite quasi zu versuchen zu sprengen, zu umgehen?

Andry Joos: So direkt ist mir da kein abschließendes Beispiel bekannt, aber so, wie ich meine Demoszene kenne, wurde oder wird da alles irgendwie versucht, was man kann, sofern sich jemand findet, der sich dafür begeistern kann, und der oder die sich dafür interessiert. Was früher oder später geschehen wird, ist möglicherweise, dass solche KI-Methoden dann auch genutzt werden, um in diesem Echtzeit- und Realtime- Entwicklungsumfeld natürlich einen gewissen generativen Anteil zusätzlich reinzubringen. Also in der Demoszene ist es immer auch wichtig, dass viel vor, also wir setzen uns ja unsere eigenen Limiten. Und eine der Limiten ist, dass wir uns beschränken bei der Größe einer ausführbaren Datei, die dann diese Demos generiert, zum Beispiel auf 64 Kilobit. Und innerhalb von diesen 64 Kilobit ist es ganz, ganz wichtig, dass wir alles unterbringen können: Also Programmcode, der die Musik generiert, Programmcode, der die Grafik generiert. Programmcode, der 3D- Objekte generiert, Texturen erzeugt, Shade generiert und so weiter. Und da erscheint es mir durchaus interessant, wenn man da diese KI-Modelle vielleicht auch teilweise oder ganz spezifisch für diese Anforderung aufbereitete KI-Modelle natürlich, nutzen könnte, um gewissen Inhalt für diese Demos vielleicht generieren zu können. Vielleicht liege ich aber auch völlig falsch und wir reden hier von Speicherfootprints, die das dann nicht mehr erlauben innerhalb dieser kleinen Dateien. Da weiß ich jetzt auch zu wenig, welche Anforderungen da wirklich benötigt werden an so eine Instanz, oder so eine KI.

Björn Burkhard: Da geistern ja auch so Sachen, dass eben die selber coden, und könntest du dir auch vorstellen, dass vielleicht, dass man mal gegen eine KI antritt bei so einem Demo-Wettbewerb?

Andry Joos: Also, Versuche mit diesem ChatGPT haben ja gezeigt, dass das zwar immer sehr stark noch gültig im Programmcode aussieht, vieles da auch stimmt, was da rauskommt. Aber bisher hatten wir keine, oder ich mindestens habe keine fertig lauffähigen Programme gesehen, die da, oder auch explizit keine fertigen, eben keine fertigen Demos. Und das wurde natürlich versucht. Ich habe auch schon versucht, gewisse Codesnippets generieren zu lassen, weil ich sehen wollte, ob das sinnvoll funktioniert. Geklappt hat das bisher nicht, aber ich glaube, das ist durchaus ein Thema, wenn man nämlich die Parameter so weit einschränkt und das Feld limitiert. Also denkbar wäre ja vielleicht, dass man sich damit auf die Erzeugung eines Pixelshader einschränkt. Also das wäre Programmcode, der auf einem Computer genutzt werden kann, um mit der Grafikkarte direkt Bilder entstehen zu lassen oder an Animationen entstehen zu lassen. Und das ist dann ein, ein sehr eingeschränktes Set oder eine eingeschränkte Auswahl an Instruktionen und vielleicht auch weiteren Parametern, so dass das denkbar ist, dass das heutige KIs vielleicht gültigen und lauffähigen und dann am Schluss so mit sinnvollen Programmcode erzeugen könnten, der dann genutzt werden könnte. Oder in Wettbewerben gegeneinander antreten kann. Genau zwei KIs gegeneinander.

Björn Burkhard: Auch ein schönes Bild. Aber woran denkst du, dass da die Schwierigkeit ist? Ich mache jetzt hier komplett auf naiv. Ich sage jetzt mal, menschliche Sprache ist ja ein bisschen unlogischer als Programmiersprache. Was denkst du, warum die sich teilweise schwer tun damit, die Codebausteine oder Code zusammenzubauen?

Andry Joos: Ich kann mir gut vorstellen, dass das oft nicht am reinen sprachlichen also an der Syntax liegt. Die dürfte für eine KI wie du sagst relativ simpel zu durchschauen und zu replizieren sein, aber oft braucht es mehr dazu. Also, man muss gewisse Initialisierungen machen, bis so eine Software laufen kann. Man muss allenfalls verschiedene Komponenten und Drittkomponenten vor allem kennen und nutzen können. So dass es doch relativ aufwendig erscheint, dass da wirklich fertige, lauffähige Software für Windows zum Beispiel rauskommt. Vielleicht ist es einfacher für eine einfachere Hardware oder einfachere Instruktionssätze? Oder halt wirklich auf Basis von von Schnipseln, die dann genutzt werden können, man aber dann vielleicht trotzdem von Hand noch wieder irgendwie in die lauffähige Umgebung übernehmen muss. Aber vielleicht ist es auch etwas, was, wo wir einfach noch nicht ganz sind, und vielleicht wird das alles auch gar kein Problem. Also, ich bin da sehr gespannt, wenn man sieht, wie die Entwicklung in den letzten Monaten war und was sich da alles neues ergeben hat. Nicht nur technisch, sondern eben auch, wie diese Tools, diese Werkzeuge mehr oder weniger kreativ eingesetzt werden oder vielleicht auch verwendet werden in einem Sinne, wie sie vielleicht auch nicht gedacht waren, dann kann sich da schon noch einiges ändern und ergeben, glaube ich. Und da bin ich zuversichtlich, dass es da in dieser Richtung viele Herausforderungen, auch für Demo-Entwickler geben wird.

Björn Burkhard: Aber das ist doch ein spannender Punkt. Was schwebt dir da vor? Wo kannst du, wo denkst du das vielleicht auch persönlich beruflich? Was könnten sich für Felder und Nutzungsmöglichkeiten positiv wie auch negativ aufmachen?

Andry Joos: Also im positiven Sinne, das kann ich glaube ich schon auch aus meinem beruflichen Hintergrund beantworten. Ich arbeite in der IT, klassisch, finde ich halt, dass solche Systeme uns unterstützen können. Sie können genutzt werden, um unsere Codeeingaben live zu validieren, vielleicht, und das wird ja auch schon gemacht, Vorschläge direkt beim Entwickeln zu machen, wie man gewisse Probleme besser lösen kann oder anders lösen kann. Und dort wird es sicherlich zu Veränderungen kommen, wie man mit Entwicklungsumgebungen arbeitet und wie viel man da zulassen kann und will, wie eine KI hier mitwirken kann. Auf der Rückseite der Medaille ist das Problem, dass wir glaube ich allgemein haben mit diesen KIs, die erfinden ja in dem Sinne nichts Neues, sondern die ein bisschen vereinfacht gesagt, nehmen die altes Zeug und mischen es und geben das mit einem Kontext versehen wieder aus, und diesen Kontext liefern wir ja mit unseren Prompts zum Beispiel. Aber die Frage stellt sich dann gerade beim Thema Programmcode: Ist das jetzt Code, den ich mit meinem Prompt sozusagen genuine erfunden habe und geschrieben habe, oder ist das Programmcode, der eigentlich jemand anders geschrieben hat und die KI diesen Programmcode dann einfach als Grundlage genommen hat? Also, es stellt sich da auch irgendwo, die Urheberrechtsfrage. Sicherlich nicht nur bei bei Programmcodes, sondern eben auch bei den Bildern, bei allem möglichen. Und da muss man sicher einen Weg finden, wie man das adressieren kann. Im Endeffekt haben wir Entwickler auch früher schon einfach Code von anderen übernommen. Es gibt viele Onlineportale. Ist ja nicht so, dass wir da alle immer alles selber erfinden. Vielleicht muss man das auch unter diesem Aspekt natürlich auch anschauen. Und wiederum in Bezug auf die Demoszene, wenn wir jetzt überlegen, dass die KI Programmcode schreiben soll für einen alten Computer, einen C64, wenn man dort entwickelt, ist sehr, sehr viel immer auch ein Ausprobieren und ein Testen und ein Prüfen, ob eine Idee, die man hat, der sich auf der Hardware vielleicht in Kombination mit dem Bildschirm und so weiter auch umsetzen lässt. Oder ob das funktioniert rein technisch, und ich glaube, soweit sind wir schon noch nicht, dass die KI dann selber ihre eigenen Resultate hinsichtlich Qualität oder hinsichtlich visueller Kreativität vielleicht auch beurteilen kann.

Björn Burkhard: Du hast jetzt so ein bisschen schnöde die KI in die "Sie reproduziert nur"- Ecke gestellt. Wie stark? Also, du würdest schon noch einen starken Unterschied machen zwischen menschlichem Geist und einer künstlichen Intelligenz, oder?

Andry Joos: Ich glaube, das kann weit ins Philosophische reichen. Da haben sich schon viele, viele Leute schon viel mehr Gedanken darüber gemacht. Für mich sind die KIs heute Werkzeuge tatsächlich, und diese Werkzeuge, die nutzen gewisse Ressourcen. Bei den KIs sind das möglicherweise oder einfach die Trainingsdaten, die Daten, die die KI verinnerlicht hat, mit denen sie arbeiten kann, die sind ja irgendwo durch ein begrenztes Set an Daten. Für dieses ChatGPT sind das heute auf jeden Fall schon Unmengen an Daten, aber trotzdem irgendwo begrenzt, und auch die Rechenkapazität ist begrenzt, und solange das irgendwo begrenzt ist, werden wir da immer nicht die gleiche reflektive Kapazität erreichen wie bei einem Mensch, glaube ich. Wenn man natürlich die Ressourcen hinreichend groß macht, das war schon früher so, ja, wenn man, wenn man genug Ressourcen auf ein Problem loslässt, dann löst sich das Problem. Oder vielleicht bei einer KI ist sie dann hinreichend, erscheint sie hinreichend kreativ und intelligent auf Kosten der benötigten Ressourcen natürlich.

Björn Burkhard: Also man muss sich die Zahlen mal vor Augen führen. Dieser Wahnsinn an Ressourcen, die sie hat, und da denke ich so, wenn ich Wikipedia lesen würde, glaube ich, würde mein Leben nicht reichen dafür und das finde ich schon interessant. Also theoretisch hat sie ja das Wissen. Gibt's einen Unterschied, was ich mit, oder nicht zwingend ich aber jemand, der sich geistig sehr intensiv Gedanken gemacht hat, wo er quasi zwar mit, ich sage jetzt mal, mit weniger Lerndaten was Anderes damit schaffen kann? Oder wie jetzt irgendeiner einen Vorteil hat, dass sie, ich sag jetzt mal die KI auf mehr Ressource zugreifen kann? Weißt du, was ich meine?

Andry Joos: Ich verstehe das gut. Ich denke auch, dass es natürlich ein großer Vorteil für eine KI ist, auf einen riesigen Pool an Wissen zugreifen zu können. Mir scheint aber doch auch das, wenn wir wieder Bezug nehmen auf Kreativität, macht doch eben auch die Reflexion mit dem, was ich produziere, einen Großteil aus. Das heißt, ich muss irgendwo Feedbackloops einbauen, und ich muss diese qualitativ definieren können. Oder in diesem Feedbackloop muss beurteilt werden können, ob das, was ich produziere, hinreichend kreativ ist oder meinen Ansprüchen genügt oder vielleicht auch dem Ziel nahe kommt, dass ich als Idee im Sinn habe. Und was ich stark glaube und auch fest hoffe, ist natürlich, dass wir mit unserem menschlichen Hirn gerade bezüglich Visionen und Ideen und den Möglichkeiten, eine Idee auch mit Werkzeugen und Hilfsmittel uns der Idee nähren zu können. Ich habe so das Gefühl, das sind wir bei den KIs natürlich schon noch nicht. Und hoffentlich noch lange nicht, wenn das überhaupt möglich sein sollte, irgendwann genau.

Björn Burkhard: Das klingt so ein bisschen, als wäre eine KI ein Faustkeil.

Andry Joos: Ich habe eingangs gesagt, für mich sind die KIs heute Tools. Werkzeuge. Und ich sehe sie heute nicht irgendwie gleichberechtigt als Intelligenzen neben uns. Wirklich philosophisch sehen wir, die haben doch keinen Geist, sondern sie sind eigentlich nur Maschinen. Und wenn wir uns selber als Menschen reduzieren würden und sagen, wir sind auch nur Maschinen, das möchten wir ja auch nicht hinnehmen!

Björn Burkhard: Also, im vorherigen Podcast hat die Gesprächspartnerin als Input tatsächlich gegeben, dass sie findet, das durchaus eine hochentwickelte KI ein Recht haben sollte zu sein, und das fand ich durchaus interessant, das aus der Perspektive zu sehen. Sie hat das verglichen mit einem anderen Primaten, dem man auch heute andere Rechte einräumt als was man noch, sag ich mal, Anfang des Jahrhunderts eingeräumt hat. Wie siehst du das? Also, würdest du sagen, sie meinte auch so, es ist Sklaverei, wenn wir die Maschine einfach für uns arbeiten lassen würden. Fand ich ein spannender Punkt.

Andry Joos: Also Maschinen sind für mich natürlich immer da, um für uns zu arbeiten. Aber, ja, die Frage ist, dann sind wir wirklich im Philosophie-Ding, hat so eine KI, wenn wir sie, wenn wir die Rechte einer KI beschneiden, fühlt sie sich dann beleidigt? Hat sie Gefühle? Interessiert das irgendjemand, ob sie Gefühle hat? Kann sie das sagen, dass sie Gefühle hätte? Oder geht sie uns dann so auf die Nerven, dass wir einfach den Stecker ziehen? Das sind sicher Fragen, mit denen sich Generationen oder mindestens eine nächste Generation von Ethikern und Philosophen auseinandersetzen müssen.

Björn Burkhard: Lass uns noch mal ein bisschen ins Hier kommen. Siehst du irgendwo gerade, wo sich in, ich sage mal, in der näheren Zukunft, sich in deinem Alltag quasi jetzt, abgesehen von Siri und Alexa, oder vielleicht wie die sich quasi verstärkt in den Alltag integrieren? Also wir haben Freunde, da reden die Kinder mit Alexa, als wäre es eine Nanny. Weißt du, auf was ich hinaus will?

Andry Joos: Mhm also, ich sehe sehr viele Möglichkeiten, wo KI-getriebene Werkzeuge uns natürlich schon Vieles ermöglichen, was vielleicht vorher viel Aufwand benötigt hat. Also es beginnt ja schon relativ einfach bei Übersetzungen von Texten. Schriftlich gibt es sehr gute Tools. Auch diese setzen mittlerweile auf KI-gestützte Prozesse. Aber was doch eigentlich schon lange fehlt, und wenn ich an den kleinen Babelfisch denke im Ohr, dann wäre doch wirklich sehr angenehm, wenn wir uns alle einfach unterhalten könnten, und eine KI übersetzt das, was ich sage live in eine natürliche Fremdsprache. Vielleicht braucht es dafür auch keine KI. Ich weiß nicht, aber ich denke mal, mit KI würde sich da Vieles vereinfachen lassen. Aber auch sonst im Alltag, also gerade so die doch eigentlich unnatürliche Art, wie ich mit Google oder anderen Suchengines Abfragen mache. Im Prinzip kann man mit ChatGPT oder ähnlichen Werkzeugen, doch einfach in einer natürlichen Sprache, die Fragen stellen, und solche Aspekte, denke ich, werden mehr und mehr kommen und auch sehr, sehr sinnvoll und nützlich sein. Das Thema, was ich auch erwähnt hatte, mit der Unterstützung beim Programmieren, das wurde oder wird ja mit diesem Github, ich glaube Copilot nennt sich das, ein Produkt von Microsoft. Also ich denke, das ist sehr, sehr nützlich, wenn dann die Copyright-Fragen geklärt sind. Und so gibt es unzählige Beispiele, wo diese KIs verpackt in Werkzeuge, die wir täglich vielleicht auch brauchen, sehr nützlich sind. Die KI als Entität, mit der ich direkt interagiere, das ist für mich eher eine Spielerei. Also dass ich mich mit ChatGPT unterhalte, einfach weil mir langweilig ist oder so, das ist lustig zwei-, dreimal und dann habe ich das gesehen. Aber natürlich ChatGPT als Chatbot eine Unternehmung, spezifisch getrimmt auf das Wissen von dieser Unternehmung, das wäre sicher ein großer Fortschritt verglichen mit diesen Chatbots, die uns heute auf den Supportseiten der Unternehmen begegnen. Die sind ja, also das ist schon fast vermessen, die Chatbots zu nennen.

Björn Burkhard: Aber ich habe zwei Sachen, die mir gerade durch den Kopf gehen. Das eine hast du anklingen lassen: die Rechte-Geschichte. Ich meine, die Rechte-Geschichte hat ja ein irrsinnigen Drive bekommen mit dem Internet und aus meiner Sicht auch, gibt's ja immer noch Ausläufer, die so ein bisschen unklar sind. Korrigiere mich gerne. Genau, und die andere Sache wäre, die mich einfach interessieren würde, wie es mit deinem Arbeitgeber ist. Aber fange mal mit der Rechte-Geschichte an. Denkst du, wir werden schneller ans Ziel kommen mit Rechtssicherheit? Ich denke jetzt mal an die Amerikaner, die glaube ich nichts patentieren dürfen, was eine KI geschaffen hat oder so?

Andry Joos: Da bin ich nicht genau im Bilde, was da läuft. Aber ich stelle mir vor, dass auch KIs natürlich auf das Rechtswesen wiederum einen durchaus disruptiven Einfluss haben, und oftmals ist es ja so, dass Recht und halt Urheberrecht und andere Legal-Aspekte, die hinken ja auch der Realität immer zeitlich hinten nach. Also, da wird es sicher Lösungen geben, und vielleicht gibt's auch beim Urheberrecht natürlich auch Möglichkeiten. Da, vielleicht ist es ja so, wie es heute gedacht ist, auch nicht immer gut, oder? Also das wissen wir ja. Und vielleicht ergibt sich, weil man sich aktiv oder wieder oder wirklich mit diesen Themen dann auseinandersetzen muss, ergeben sich da vielleicht auch neue Ansätze oder Dinge, die man neu denken kann.

Björn Burkhard: Wie siehst du? Wie siehst du das mit open source? Also Open AI, glaube ich, war mal angedacht, open source zu sein. Ist es aber, glaube ich, nicht mehr? Gibt's da Hoffnung bei künstlichen Intelligenzen, diese Transparenz? Oder ist es einfach zu teuer um das quasi offen zu gestalten?

Andry Joos: Na, vermutlich ist der Entwicklungsaufwand der in die jetzt genutzten KIs, also Midjourney und da reingeht, ist ja wahrscheinlich immens, und das muss natürlich irgendjemand finanzieren. Gleichzeitig würde es natürlich nicht schaden, wenn die Codebasis von, also wirklich der technische Aspekt von diesen Komponenten einsehbar ist, und das muss sich ja nicht ausschließen. Also, es ist, es ist ja nicht so, dass open source immer gratis ist oder dass open source nichts kostet. Aber ist klar, wenn eine Firma Geld investiert in eine Technologie, dann will sie auch davon profitieren und nicht gleichzeitig der Konkurrenz Tür und Tor öffnen, um ohne Investition auch profitieren zu können. Vermutlich wäre es aber schon auch sinnvoll, gerade bei Themen, die manchen Leuten auch Angst machen oder eben, KIs machen den Leuten Angst, dass sie ihren Job verlieren. Wenn man da eine gewisse Öffentlichkeit oder Zugänglichkeit erreichen kann, würde das sicherlich in manchen Situationen vertrauensbildend wirken können.

Björn Burkhard: Wäre es vielleicht sogar was für die öffentliche Hand?

Andry Joos: Ich könnte mich täuschen, aber vermutlich sind da auch öffentliche Forschungsgelder schon auch im Spiel. Aber auch da- wahrscheinlich ist es dann von kommerziellen Interessen natürlich immer sehr stärker getrieben und vielleicht mit mehr Geld halt auch einfach mehr möglich dann. Aber wir haben ja oft auch, dass Dinge parallel auch weiterentwickelt werden, dass Ideen später gewisse offene Projekte befruchten und natürlich auch umgekehrt immer wieder. Ich bin da zu wenig jetzt auch im Bild, was da alles läuft. Aber ich glaube nicht, dass nur kommerzielle Firmen hier in der Lage wären, entsprechende KIs bereitzustellen oder diese Technologie zu beherrschen, zu verstehen. Wahrscheinlich ist im Moment einfach so viel Marketing auch dahinter, dass das effektiv dann eher kommerzielle Interessen natürlich sind.

Björn Burkhard: Ja, ja, klar und jetzt interessiert mich noch, ist das bei euch bei der Arbeit schon ein Thema?

Andry Joos: Unbedingt. Also das ist ein großes Thema, und zwar aus verschiedenen Aspekten. Also ich arbeite bei den schweizerischen Bundesbahnen, und wir haben natürlich verschiedene Kundenbeziehungen, wir haben auch eine eigene IT und so weiter. Und gerade im Bereich Kundenbeziehung und Kundenumgang. Ich komme wieder zum Beispiel Chatbot. Da ist natürlich schon ein Thema, ob wir da mit dieser Technologie unsere Kunden besser bedienen können, vielleicht ansprechbar sind. Der Chatbot mit KI kann auch mitten in der Nacht, wenn das Callcenter sonst geschlossen ist, eine Antwort liefern, die halt sinnvoll ist oder richtig ist, und da werden auch Überlegungen gemacht, da werden auch Experimente gemacht. Aber wir sind natürlich noch nicht auf der Zielgeraden. Ein Aspekt ist aber auch hier das Thema "Wem gehört jetzt die KI"? Also wir müssen da als Firma natürlich auch aufpassen, dass wir nicht Daten, die uns für das Erreichen unserer Geschäftsziele nur uns gehören, also nur für uns eigentlich zugänglich sein sollen, da hätte ich, und das gibt es auch Richtlinien schon interne, die sollten wir jetzt nicht unbedingt der ChatGPT- Instanz da von, die da im Internet in the Wild ist, einspeisen. Das wäre, das wäre sicher nicht gut. Aber eben, es gibt ja die Möglichkeit eigene Instanzen zu betreiben, und das ist sicher etwas, was ein Thema sein wird. Und auch generell- die Tools sind sehr nützlich, und da sind wir wieder beim Werkzeug-Aspekt. Ich übersetze doch sehr gerne einen Text mit einer KI, oder das gilt auch für nicht KI-getriebene Übersetzungstools. Aber ich muss da schon aufpassen, dass ich da nicht interne Informationen in ein beliebiges Fenster im Internet kopiere und diese Sätze, weil ich weiß nie, wer danach Zugriff auf diese Daten hat. Und das ist sicher etwas, was auch im Kopf der Leute noch weiter, also jetzt nicht nur bei uns in der Firma, sondern ganz allgemein noch weiter ankommen muss.

Björn Burkhard: Aber das finde ich ein super spannender Aspekt, dass diese Sensibilität, dass man sich schon klar machen muss, dass, wenn man mit so einer künstlichen Intelligenz im Austausch ist, dass man nicht nur Informationsnehmer, sondern auch Informationsgeber ist, oder?

Andry Joos: Das dürfte ultimativ so werden. Soweit ich weiß gerade ChatGPT lernt glaube ich außerhalb der Session, die man hat, nicht weiter, oder nicht alles, was dort eingegeben wird, wird wieder bei allen genutzt. Aber ich kann mich auch täuschen, und vielleicht hat sich das auch geändert. Aber sobald das natürlich so ist, und so würde ich meine ultimative KI bauen, dass jede Information, die mir freiwillig gegeben wird, die würde ich nehmen und einbauen und und nutzen in irgendeiner Form. Also das gehört ja, das machen wir Menschen im Prinzip ja auch so. Wenn du ohne nachzudenken mir Geheimnisse erzählst, werde ich die irgendwo selbstverständlich für mich behalten, aber doch irgendwo einfließen lassen in meine Überlegungen, und genau so stelle ich mir das bei der KI eigentlich auch vor.

Björn Burkhard: Das ist sehr beruhigend zu wissen. Aber genau das ist ja so ein menschlicher Aspekt. Das ist ja ein bisschen hoffnungsvoll, dass sie das noch nicht machen. Aber oder, genau, wahrscheinlich ein kleiner Teil, dass es wahrscheinlich in Zukunft so sein wird. Aber eben, das klang jetzt so, dass es wahrscheinlich schon sein wird, dass eben verschiedene Unternehmen unterschiedliche KIs haben, die sie dann unterstützen. Und wie muss man sich das vorstellen? Könnte es dann passieren, dass plötzlich ein, ich sag jetzt mal, Chat GPT bei der SBB eine Anfrage in der Nacht über den Chatbot stellt und sich die da einen kleinen Schnack gönnen, oder? Kann man sich das in naher Zukunft vorstellen?

Andry Joos: Dass sich verschiedene Instanzen gegenseitig bespaßen? Also das ist natürlich eine schöne Vorstellung, und das wäre dann irgendwo der Effizienzgedanke ad absurdum geführt, wenn die irgendwie ein Eigenleben .. Aber ja natürlich, sobald sich eine KI verselbstständigt, befinden wir uns natürlich schon irgendwo in einer bis vor Kurzem noch als dystopisch betrachteten Welt. Aber vielleicht ist das irgendwann tatsächlich, eher früher als später, Realität. Ich glaube, aber eine KI, daneben dass sie eigentlich doch vielleicht oder mindestens heute noch nicht kreativ sein kann, eigentlich von sich aus. Ist sie ja auch nicht einfach so empathisch, zum Beispiel. Ich als Mensch kann beurteilen, wenn du mir etwas erzählst, was ich damit mache. Die KI kann die Informationen möglicherweise nicht richtig bewerten und nimmt alle Informationen als gleich wichtig wahr. Dieses Filtersysteme hat eine KI ja nicht, es sei denn, die werden irgendwie hinzuprogrammiert, natürlich.

Björn Burkhard: Ja, genau, also, es gibt ja so Versuche mit Gefühlen und auch, dass sie quasi psychologische Gespräche führen. Ich meine, da sind wir auch schon wieder philosophisch. Ich meine, ist es, wenn sie ein Gefühl imitieren kann, ist es ein Gefühl? Aber, also, das war ja auch bei Google, glaube ich, auch. Oder wo war das, wo irgendwie auch die Geschwindigkeit der Eingabe quasi in die Bewertung einfloss. Aber du würdest das als sehr schwierig betrachten, Gefühle zu interpretieren von der Eingabe von der KI?

Andry Joos: Mir scheint das noch als weit weg. Vielleicht ist da aber auch mehr Hoffnung als Realität drin verpackt. Ich weiß es nicht genau. Aber ich sehe ein Problem, eine Information, die kommt, dann auch bewerten zu können hinsichtlich Wichtigkeit und diese, wenn man alles, was auf einen einprasselt den ganzen Tag, gleich wichtig beurteilt, das zehrt an der geistigen Gesundheit. Und wenn wir das jetzt umsetzen auf eine KI, die diese Filter nicht hat, und einfach alles immer als gleich wichtig und jede Information wird sofort verarbeitet, dann verwundert es mich auch nicht, dass manche von diesen KIs plötzlich durchdrehen oder so. Oder dass sie irgendwie komisch reagieren oder plötzlich den Eingebenden beschimpfen oder weiß ich was. Ich hätte jetzt fast mich darin verstiegen zu sagen, da hatten sie durchaus menschlich reagiert.

Björn Burkhard: Das ist doch ein super Schlusswort, Andry, und das heißt, vielleicht muss in Zukunft nicht die KI den Menschen behandeln, sondern Menschen eine KI behandeln.

Andry Joos: Das wäre doch interessant, ich, ich persönlich würde da eher den Stecker ziehen.

Björn Burkhard: Gut. Genau, bin ich auch dabei. Andry, ich bedanke mich. Das war sehr launig und hat Spaß gemacht, und genau, und ich ziehe jetzt den Stecker, und dann können wir noch ein bisschen off the record, wenn du noch eine Minute hast.

Andry Joos: Unbedingt. Vielen Dank.