Mikro trifft Makro - Das Finanzmarktgespräch

Transkript

Zurück zur Episode

00:00:00: Wenn man auf das Jahr 2023 zurückschaut, dann ist vor allem ein Thema omnipresent gewesen.

00:00:05: Künstliche Intelligenz.

00:00:06: Vor etwa einem Jahr war es soweit und die große breite Masse konnte auf ChatGPT zugreifen,

00:00:13: das erste Mal erfahren, was künstliche Intelligenz eigentlich genau macht.

00:00:17: Wie die Entwicklungen einzuordnen sind und was das für unser privates und berufliches

00:00:21: Leben in der Zukunft heißt, darüber spreche ich heute mit MaxTinus in einer neuen Folge

00:00:25: "Mikro trifft Max".

00:00:27: Hallo und herzlich willkommen zu einer neuen Folge "Mikro trifft Max" und bei mir ist natürlich

00:00:40: heute wieder der Futurologe MaxTinus.

00:00:42: Hallo Max, ich grüße dich.

00:00:44: Einen wunderschönen guten Morgen, ich freue mich riesig wieder da sein zu können.

00:00:47: Ja, heute wollen wir mal über das Thema künstliche Intelligenz reden und was das so für unser

00:00:51: Leben bedeutet.

00:00:52: Das ist ja so ein Thema, was die Menschen schon lange fasziniert.

00:00:54: Wenn man mal so guckt, in Filmen, Büchern, Serien, da taucht das immer wieder auf.

00:00:59: Also einmal natürlich irgendwelche denkenden Maschinen, große Dampfmaschinen beispielsweise,

00:01:02: die sich selbstständig bewegen, aber eben auch Computer, die selbstständig Entscheidungen

00:01:06: treffen, ein eigenes Leben für sich, einen eigenen Organismus bilden im Grunde.

00:01:09: Ich persönlich finde das immer wieder spannend.

00:01:12: Ich finde es auch ein bisschen unruhigend aktuell, wie schnell die Entwicklung gegangen ist.

00:01:15: Also ich habe eben gesagt, dass ungefähr ein Jahr her, dass ChatGPT so in das Licht der

00:01:19: Öffentlichkeit gekommen ist.

00:01:20: Und wir wollten uns ja immer eigentlich eine von den 17 Lebensbereichen vornehmen, die

00:01:24: du mal definiert hattest, also die Zukunftsbereiche.

00:01:27: KI ist jetzt keiner davon.

00:01:29: Warum eigentlich nicht?

00:01:30: Naja, weil KI in allen dieser 17 Lebensbereichen vorkommt.

00:01:33: Das ist so ein bisschen, als würdest du hier über Digitalisierung oder über Elektrizität

00:01:38: reden wollen.

00:01:39: Das hat schon einen grundlegenden Einschnitt in unseren gesamten Alltag und wird einfach

00:01:45: das, wie wir zukünftig leben.

00:01:47: Ja, wir werden neu darüber nachdenken müssen.

00:01:51: Ja, schauen wir doch mal drauf auf die Faszination KI.

00:01:55: Also wir haben das glaube ich letztes Jahr alle gut miterleben können, wie die Menschen

00:01:59: auf einmal total enthusiastisch waren, ChatGPT zu benutzen, mit Mid Journey vielleicht Bilder

00:02:05: zu erstellen.

00:02:06: Das Ganze ist jetzt teilweise ja auch integriert worden in Bing von Microsoft beispielsweise.

00:02:11: Also Dali 2 bzw. mittlerweile ist glaube ich 3 oder sogar 4, weiß ich gar nicht genau,

00:02:15: wie weit wir da sind.

00:02:16: Da werden immer wieder neue Versionen eben auch veröffentlicht.

00:02:20: Was denkst du denn?

00:02:22: Warum ist es denn für uns so faszinierend?

00:02:24: Warum wollen wir denn uns quasi einfach durch Maschinen ersetzen?

00:02:28: Weil wir geben ja schon ein Teil unserer Tätigkeiten, unserer Kreativität vielleicht in die Hände

00:02:32: von der Maschine.

00:02:33: Das ist zumindest das, was wir hier annehmen.

00:02:35: Und das ist auch so die alte industrielle Sichtweise, die wir auf künstliche Intelligenz

00:02:39: haben.

00:02:40: Da gehen wir immer davon aus, dass sie den Menschen ersetzt.

00:02:43: Es kommt aus so einer alten Paradies-Saga noch heraus, dass wir irgendwann nicht mehr arbeiten,

00:02:47: nicht mehr denken müssen, dass uns irgendwann wahrscheinlich alles in den Mund fliegt und

00:02:50: so weiter.

00:02:51: Und da ist nach der ganzen Automation und Robotik jetzt natürlich KI als das denkende

00:02:58: Medium für uns und der letzte große Hebel, wo das tatsächlich passieren könnte.

00:03:05: Dann lassen Sie uns vielleicht nochmal ganz kurz sprechen darüber, was ist denn eigentlich

00:03:09: künstliche Intelligenz und wie unterscheidet sie sich denn von menschlicher Intelligenz,

00:03:14: wenn überhaupt?

00:03:15: Ja, das ist tatsächlich eine große Frage.

00:03:17: Wir nennen das ja immer nur künstliche Intelligenz, weil wir 1953 eine Reihe von

00:03:25: Mathematikern in den USA gesagt hat, wir brauchen Geld für einen Sommercamp und wir wollen da

00:03:30: künstliche Intelligenz entwickeln.

00:03:32: Da ist der Begriff hergekommen.

00:03:34: Er wäre wahrscheinlich auch sonst aber entstanden, weil das Thema einer nicht menschlichen, sondern

00:03:39: künstlichen Intelligenz viel zu großen Reiz auf uns ausübt und deswegen haben wir das

00:03:43: wahrscheinlich auch so gemacht.

00:03:45: Die Frage, die wir uns aber stellen müssen ist, ist künstliche Intelligenz überhaupt

00:03:50: künstlich, wenn sie von Menschen programmiert ist?

00:03:54: Wir haben uns in der Industrialisierung so eine Methode zurechtgelegt, wo wir immer versucht

00:04:01: haben, Technologie zu beherrschen.

00:04:03: Und aus dieser Geschichte heraus, dass der Mensch über der Technologie steht, das im

00:04:10: Umkehrschluss dann in vielen Science Fictions und sonstigen Erzählungen dann geworden, dass

00:04:15: irgendwann auch die Technologie den Menschen beherrscht.

00:04:19: Das vielleicht keines von beiden eintritt, das ist bei den Menschen gar nicht so im Kopf

00:04:24: verwurzelt, weil wenn künstliche Intelligenz von Menschen programmiert ist, dann wird

00:04:30: sie letzten Endes immer das machen, was wir ihr als Rahmen vorgeben.

00:04:33: Und das merkt man auch heute, dass wir sehr gut auch aufpassen müssen, was künstliche

00:04:38: Intelligenz macht, denn im Moment plappert sie eigentlich all das nach, was wir irgendwann

00:04:42: mal ins Internet gestellt haben.

00:04:44: Ob das richtig ist oder falsch, müssen dann wieder wir Menschen entscheiden.

00:04:49: Und das ist eigentlich auch der Punkt, wo wir aber auch eine künstliche Intelligenz

00:04:56: anders programmieren müssen.

00:04:57: Wo wir dann auch sagen müssen, die muss auch bestimmten rechtlichen Rahmenbedingungen

00:05:00: folgen und so weiter.

00:05:02: Zum Beispiel unser Grundgesetz wird zu etwas über 40 Prozent von so etwas wie ChatGPT

00:05:09: maßgeblich missachtet, wenn es dann da um Gleichberechtigung, um andere Themen geht,

00:05:17: die unsere Gesellschaft eigentlich auszeichnen und wie wir leben wollen.

00:05:22: Das findet da nicht statt.

00:05:23: Und das ist auch gleichzeitig ein Problem, weil wir natürlich, gerade jungen Menschen,

00:05:30: die heranwachsen und sagen, das ist die Idee, wie wir Gesellschaft gestalten wollen.

00:05:34: Man kommt ihm in so einem Medium in Kontakt und sagt, das ist hier aber alles ganz anders.

00:05:39: Da kann dann ein Missverständnis entstehen.

00:05:41: Also deshalb müssen wir das Thema künstliche Intelligenz auch ganz anders betrachten.

00:05:47: Wir müssen es nicht, wie viele Menschen immer glauben, regulieren und einschränken.

00:05:51: Darum geht es gar nicht.

00:05:54: Aber wir müssen eine klare Absenderkompetenz der Daten haben.

00:06:00: Das heißt, wir brauchen im Prinzip nicht nur eine große, an der wir uns alle bedienen,

00:06:06: sondern jeder Mensch, jedes Produkt braucht eigentlich seine eigene künstliche Intelligenz,

00:06:10: sodass wir wie früher sagen können, von dem und dem Medium oder der und der Person,

00:06:15: kommt eben diese Meinung.

00:06:16: Wir haben halt die Meinung all dieser Personen aus diesem Land, dass wir das eingrenzen können

00:06:23: und für uns dann beschreiben können, was wir wollen.

00:06:27: Denn sonst wissen wir eben nicht, woher die Informationen kommen.

00:06:30: Und dann ist natürlich so für Fake News Tür und Tor geöffnet, weil du dann eben nur dieses

00:06:34: eine Medium hast und da findet irgendwie alles vermischt miteinander statt.

00:06:38: Wenn du was sagen kannst, du möchtest nur aus diesem Personenkreis, aus diesen Quellen

00:06:42: eine Meinung haben, dann kannst du das klar umreißen und dann bekommst du auch die Antwort.

00:06:47: Aber da müssen wir auch noch viel Umgang mit künstlicher Intelligenz lernen.

00:06:51: Genau, und der Ethik ist glaube ich ein ganz gutes Stichwort dabei, weil das sind so ganz

00:06:55: wichtige ethische Betrachtungen, die man eigentlich erst nochmal machen muss, oder die man im

00:07:00: Zuge der Entwicklung mitmachen muss.

00:07:01: Das darf man eben nicht vergessen.

00:07:03: Für mich ist es immer ein ganz gutes Beispiel, eigentlich Social Media, eigentlich mit einem

00:07:06: sehr positiven Ansatz gestartet.

00:07:09: Und über die Jahre einfach völlig, hat sich völlig in eine andere Richtung entwickelt.

00:07:14: Da geht es gar nicht mehr darum, irgendwelche Freunde von früher wieder zu treffen, sondern

00:07:17: da geht es darum, dass viele Anzeigen verkauft werden, dass Produkte gekauft werden.

00:07:21: Und es geht gar nicht mehr so um den eigentlichen Kern, den Social Media ja ausgemacht hat,

00:07:25: der ja sehr positiv war.

00:07:26: Was müssen wir denn tun, damit es bei der künstlichen Intelligenz vielleicht nicht so

00:07:30: wird?

00:07:31: Das erste, was wir machen müssen, ist, wir müssen so verräne künstlichen Intelligenzen

00:07:34: schaffen.

00:07:35: Also, dass jeder Mensch das Recht hat, seine eigene künstliche Intelligenz mit seinen

00:07:38: eigenen Daten anzulegen.

00:07:39: Also, dass man im Prinzip sich selber beraten kann.

00:07:43: Das klingt immer erst mal ein bisschen affig, weil man dann immer sagt, ja, ich kann ja

00:07:46: auch selber nachdenken, aber das ist tatsächlich nicht so, wenn du einfach mal überlegst,

00:07:52: wenn du irgendwo in einer schönen großen Stadt bist, wo du wohnst und sagst, da möchte

00:07:56: ich jetzt gerne abends essen gehen.

00:07:58: Da fallen einem in der Regel nur zwei bis drei Restaurants ein, in die man immer gehen kann.

00:08:02: Und dann kann man natürlich irgendwelche Zeitschriften oder Internet durchstöbern

00:08:07: und dann sagen, da möchte ich auch mal hin, aber das hat man dann auch gar nicht so die

00:08:10: Zeit.

00:08:11: Und dann kann man seine eigene künstliche Intelligenz fragen und sagen, wenn ich jetzt

00:08:15: essen gehen möchte, was wären den Restaurants, die zu mir passen?

00:08:18: Und dann kann eben alleine auf deinen Daten etwas entschieden werden.

00:08:23: Du kannst aber zum Beispiel auch fragen, welche Rentenversicherung oder welche Finanzanlage

00:08:28: möchte ich haben.

00:08:29: Was passt zu mir?

00:08:30: Und dann kann deine künstliche Intelligenz anhand der Daten, wie du lebst, wie du mit

00:08:34: Geld umgehst, wie du das Leben gestaltest, tatsächlich dir eine Empfehlung machen, die

00:08:41: dann wirklich für dich ist.

00:08:43: Und nicht wie heute, wenn dir Dritte, also Unternehmen, die etwas verkaufen wollen, selber

00:08:48: einen geheimen Algorithmus haben, der dir irgendwas empfiehlt, wo du aber gar nicht weißt,

00:08:54: ob das wirklich für dich gut ist oder doch vielleicht eher für denjenigen, der es dir

00:08:57: empfiehlt.

00:08:58: Und das ist erstmal das Wesen.

00:09:00: Wenn wir das haben und das hat jeder, dann gilt das auch für Produkte, dann gilt das

00:09:06: für Regionen, dann können all diese Daten sehr detailliert und mit einer genauen Adresse

00:09:12: versehen werden.

00:09:13: Und dann musst du auch nicht mehr die Möglichkeiten von KISO sehr beschränken, weil du weißt ja

00:09:19: dann, wer es sagt und wer ist der Absender und du kannst es genau abgrenzen.

00:09:23: Und dann kannst du sie auch wirklich kontrollieren.

00:09:26: Dann kannst du daraus auch was Positives machen.

00:09:27: Da kommen wir jetzt nochmal zu dem Punkt.

00:09:30: Du hast jetzt eben gesagt, ja dann habe ich da alle meine Daten.

00:09:33: Da kommt ja natürlich, da kann ich gleich der nächste Punkt wieder rein.

00:09:36: Thema Datenschutz und Datenhaltung.

00:09:38: Wem vertraue ich diese Daten an?

00:09:40: Weil die sind dann ja super persönlich.

00:09:42: Also noch viel persönlicher als das, was ich vielleicht heute in Social Media teile, wo

00:09:46: ich dann vielleicht ja auch sage, ja ich habe da einen Namen, das ist aber nicht mein richtiger

00:09:50: Name, oder ich habe ein Foto und das verfällt sich so, dass ich da irgendwie vielleicht

00:09:54: nicht zu sehen bin oder was weiß ich.

00:09:56: Ich zeig mich vielleicht gar nicht auf den Fotos.

00:09:58: Diese Daten, die ich dann dort teile allerdings, die sind ja sehr persönlich und irgendwie

00:10:02: muss ich dann auch sicherstellen, dass da keiner rankommt und kein Schindluder mitgetrieben

00:10:06: wird.

00:10:07: Richtig.

00:10:08: Und da sind wir tatsächlich auch in der technologischen Möglichkeit, aber wir setzen sie noch nicht

00:10:12: um.

00:10:13: Also heute ist das immer so, wir denken immer noch tatsächlich in sehr großen zentralen

00:10:17: Archiven, nach Datenarchiven.

00:10:19: Und wenn du dann so eine Tür öffnest, dann kommst du auch an sehr viele Daten ran.

00:10:23: Und zukünftig, wenn jeder seinen eigenen Datencontainer hat, dann musst du nicht nur einen großen

00:10:29: öffnen, sondern danach auch noch alle individuellen eigenen.

00:10:33: Und dazu gibt es natürlich dann mehrstufige Sicherheitssysteme, die eben nicht nur auf

00:10:37: einer zwei Faktor-Autentifizierung beruhen, sondern womöglich auch noch auf einem dritten

00:10:42: Faktor, nämlich dass du dann tatsächlich mit deiner Iris oder deinem Fingerprint oder

00:10:46: halt etwas, was nur du vor Ort haben kannst, auch noch mal bestätigst.

00:10:51: Also es gibt nicht den absoluten Schutz, das kann man wirklich nicht sagen, aber es gibt

00:10:55: schon Möglichkeiten, Daten so zu verschlüsseln, dass sie sehr viel sicherer sind und je kleiner

00:11:01: die Portionen sind, desto größer ist der Aufwand, selbst automatisiert für Datendiebe,

00:11:08: an diese Daten heranzukommen.

00:11:10: Und das müssen wir natürlich herstellen.

00:11:13: Dazu muss aber eine gesamte Infrastruktur geschaffen werden, wo Gesundheitsdaten fängt

00:11:19: ja jetzt an, die werden jetzt ja irgendwo gespeichert, aber da ist eben immer noch die Frage, wie

00:11:25: genau werden sie dann geschützt?

00:11:27: Ist das halt alles auf einer Datenbank?

00:11:29: Gibt es da verschiedene, sind die Redundant?

00:11:31: Gibt es da halt, hier gibt ja auch die Möglichkeit, Daten so vereinzelt anzulegen in so vielen

00:11:37: verschiedenen Datenbanken, dass du sie dann erst noch wieder zusammensuchen musst und

00:11:40: so weiter und so fort?

00:11:41: Also da gibt es Möglichkeiten, aber die werden heute oft noch nicht angewendet, weil wir

00:11:47: aus der Industrialisierung immer noch wissen, wir haben große zentrale Systeme, da spielen

00:11:51: wir dann alles drauf, also so einzelne Serverfarmen, da liegt dann alles, nur wenn die natürlich

00:11:56: offen sind, dann läuft natürlich auch alles ab.

00:11:58: Da müssen wir wirklich umdenken lernen und uns mit der Digitalität auch wirklich auseinandersetzen

00:12:04: und auch mal auf die ganzen Techniken hört zu hören, die ja dafür schon Vielfachlösungen

00:12:08: anbieten und auch sagen, da geht mehr als das, was wir heute machen, wo man dann aber sagt,

00:12:14: ja, aber die Großen können das jetzt so schnell nicht umsetzen, das kostet ja alles

00:12:18: wahnsinnig viel Geld.

00:12:20: Es wird noch viel mehr kosten, wenn wir das nicht alles ganz schnell und ganz bald tatsächlich

00:12:24: mal in die Hand nehmen.

00:12:25: Du hattest eben auch schon mal so ein bisschen das Thema angerissen, wie gehen wir eigentlich

00:12:29: mit KI um in unserem Alltag und wenn man mal so rumfragt im Bekanntenkreis, sind alle immer

00:12:34: sehr fasziniert, aber es kommt auch ganz schnell so düsteres Szenarien, da hat es eben auch

00:12:38: schon gesagt, die Maschinen übernehmen uns, steuern uns auf einmal mehr oder weniger.

00:12:43: Auf der anderen Seite muss man sagen, dass diese Szenarien ja bisher zumindest nicht eingetreten

00:12:48: sind, also wir stehen ja auch noch ganz am Anfang, was nicht ist, kann ja noch werden,

00:12:52: heißt es dann oft und es entwickelt sich ja auch alles ziemlich schnell und eine Angst,

00:12:56: die oft damit verbunden ist, ist, dass die Menschlichkeit verloren geht und ich habe gerade

00:13:01: vor kurzem in einem Artikel gelesen, dass viele Prozesse von KI ersetzt werden können,

00:13:06: aber gerade Prozesse im intermenschlichen Kontakt, also beispielsweise an der Rezeption

00:13:11: im Hotel, du kamst heute Morgen aus dem Hotel, weißt nicht, ob da jemand saß an der Rezeption,

00:13:15: mittlerweile gibt es ja auch schon einzelne Hotels, die eben niemanden mehr an der Rezeption

00:13:19: haben, aber das sind ja Punkte, wo man sagen könnte, nein mit der KI geht auch ein Stück

00:13:24: Menschlichkeit verloren, weil wir eben die Menschen an einigen Stellen, wo sie uns vielleicht

00:13:28: wichtig sind, ersetzen.

00:13:30: Sowohl als auch, wir werden das, was wir in der Industrialisierung haben, diesen großen

00:13:35: Standard, der für alle gilt, den werden wir verlieren, weil wir keinen Status quo mehr

00:13:40: erzeugen müssen, sondern weil wir immer das sowohl als auch haben können.

00:13:45: Und das heißt, wenn es weniger Standard gibt, wird es zwei Ausprägungen geben, das eine

00:13:50: ist eine totale automatisierte Ebene, also da wird es dann Hotels geben, das ist dann

00:13:54: wirklich keiner, das ist dann halt auch wirklich günstig.

00:13:57: Und dann wird es die Ebene geben, die wird sehr viel stärker, sehr viel größer werden,

00:14:03: wo es auf mehr Kontakt mit den Menschen ankommt, wo dann aber im Hintergrund KI helfen wird,

00:14:09: Prozesse zu steuern, damit eben dieser menschliche Kontakt stattfinden kann.

00:14:13: So zum Beispiel auch bei Ärzten, die dann mehr Zeit für den Patienten haben und im

00:14:18: Hintergrund Prozesse ablaufen können.

00:14:20: Also dafür kann man sowas natürlich dann auch wunderbar einsetzen.

00:14:22: Das heißt aber auch, dass wir uns tatsächlich erstmal Werte zurechtlegen müssen, anhand

00:14:30: der wir das Ganze machen und das tun wir im Moment nicht.

00:14:33: Wir sind im Moment sehr orientiert an Technologie und wir versuchen immer einen technologischen

00:14:37: Trend aufzugreifen und versuchen den dann schnellstmöglich umzusetzen.

00:14:42: Also vor anderthalb Jahren haben noch alle massig in irgendwelche witzigen Avatare in

00:14:47: irgendein Metaverse investiert und gesagt haben, hey, wir brauchen irgendwie die Filiale

00:14:52: im Metaverse, wir müssen da Avatare haben.

00:14:55: Davor war es glaube ich noch Blockchain, was ein riesen Thema war, dann kam irgendwann

00:15:00: mal Web 3.0, wo einige Mittelständler die Hälfte ihres Jahres Gewinnes investiert haben und

00:15:06: Web 3.0 ready, was auch immer das heißt zu werden.

00:15:09: Ich glaube, da haben einfach Fahrende, die viele Menschen gut Geld verdient.

00:15:11: Und das müssen wir heute halt anders schreiben.

00:15:15: Wir müssen Technologie als etwas betrachten, was Werte getrieben ist.

00:15:18: Wir müssen also erstmal überlegen, was will ich überhaupt.

00:15:21: Und dann diese Werte konsistent auf fortführen und dann immer überlegen, jetzt kommen jährlich

00:15:26: neue Sachen dazu und KI ist nicht das letzte, was uns da überrascht.

00:15:29: Da kommen noch viele Möglichkeiten hinzu, auch was KI alles kann.

00:15:33: Und dann müssen wir auf Basis dieser Werte uns sehr konsistent weiterentwickeln.

00:15:36: Denn was wir im Moment machen ist im Prinzip, wir versuchen immer so einen eintägigen neunstündigen

00:15:41: Aufenthalt im Fitnessstudio zu machen, statt irgendwie jeden Tag 20 Minuten und das über

00:15:46: ein Jahr.

00:15:47: Was ist dann irgendwie sinnvoller?

00:15:49: Und wir sagen mal, ja, das ist jetzt das Ding.

00:15:52: Da müssen dann jetzt alle rein investieren und KI überall.

00:15:55: Und es gibt einfach viele Situationen, wo KI auch völlig fehl am Platz ist, wo das die

00:15:59: Menschen auch einfach nicht wollen.

00:16:01: Also wie zum Beispiel ich beim Einchecken ins Hotel.

00:16:03: Das ist ein offenes Geheimnis.

00:16:05: Ich gehe nur in Hotels, wo ich Menschen sehe.

00:16:08: Wenn ich da irgendwie was nur mit KI machen soll oder mit irgendwelchen mehr oder weniger

00:16:13: funktionierenden Touchscreens, dann ist das für mich kein gutes Gefühl.

00:16:17: Es gibt andere, die sind da anders, aber diese Wahlmöglichkeit, dieses "Sowohl als auch",

00:16:21: das dürfen wir nicht vergessen.

00:16:23: Es ist nicht mehr so, wie in der Industrialisierung, dass wir diesen einen großen Prozess brauchen

00:16:27: und je größer der ist, desto günstiger und besser ist der auch.

00:16:31: Sondern wir haben einfach die Möglichkeit, ganz viele individuelle Prozesse für jeden

00:16:35: Menschen zu machen.

00:16:36: Dabei hilft uns KI, dabei helfen uns aber auch die Flexibilität der Menschen, die daneben

00:16:40: zunehmend wieder da ist.

00:16:42: Wir müssen nur eben auch diesen Menschen die Zeit geben, weil heute wird ja vielfach der

00:16:46: Fehler gemacht, dass man rechnet, auch in Unternehmen, ich kann durch KI Menschen ersetzen.

00:16:54: Und dann wird immer gesagt, ja, ich kann mit der Umsetzung von KI hier drei Arbeitsplätze

00:16:58: streichen.

00:16:59: Man kann aber, wenn man diese Menschen behält, mit der KI zusammen, ein Zehnfaches oder

00:17:07: bei drei, dann eben ein Dreißigfaches der Potenziale, die da in der gemeinsamen Zusammenarbeit

00:17:12: drinstecken, für das Unternehmen mit neuen Geschäftsmodellen und den neuen Entwicklungen

00:17:16: hinein investieren.

00:17:17: Und diese Zeit müssen wir uns nehmen.

00:17:19: Wir müssen auch wieder verstehen, dass die Zeit, die wir in der Industrialisierung immer

00:17:23: gespart haben, in der Digitalität mithilfe von KI nicht mehr zu sparen ist, sondern

00:17:30: einzusetzen ist.

00:17:32: wieder investieren und nicht mehr nur einsparen und das ist auch ein Umdenken.

00:17:36: Ja, das hast du den Arbeitsplatz ja schon angesprochen. Ich glaube, das ist ein ganz

00:17:41: wichtiges Thema. Man liest ja dann auch immer wieder, was alles da eingespart werden könnte.

00:17:44: Du hast jetzt gesagt, man spart vielleicht dann zwei, drei Mitarbeiterinnen und Mitarbeiter

00:17:48: ein an der einen oder anderen Stelle. Da kommen ja immer gerne unsere Juristen ins Spiel, wo man

00:17:52: sagt, naja, die lesen ja nur in Texten nach und das kann man alles mit der KI machen. Wenn du jetzt

00:17:57: mal so ein Bild zeichnen müsstest von einem Arbeitsplatz in, sagen wir mal, fünf bis zehn

00:18:01: Jahren, wenn wir davon ausgehen, da wird sich KI weitgehend etabliert haben. Wie wird

00:18:05: der denn aussehen? Was macht die KI da und wie arbeitet der Mensch mit der KI?

00:18:10: Das wird in vielen Bereichen verschieden sein. Nehmen wir zum Beispiel mal die Juristen,

00:18:14: weil du die gerade auch angesprochen hast. Da wird ja tatsächlich immer gesagt, das sind dann

00:18:18: teilweise Standardfälle, Situationen, die kann man durch KI ersetzen. Das wird auch so sein.

00:18:23: Allerdings dürfen wir ja nicht vergessen, dass KI viele Bereiche in unserem Leben neu

00:18:28: strukturieren wird. Da wird es also ganz, ganz viele neue Gesetze, neue Regulatorien geben

00:18:34: müssen. Und wir müssen natürlich eine KI, die über Gesetze entscheidet, auch immer wieder

00:18:39: up to date halten. Wir müssen gucken, entscheidet die eigentlich richtig. Und auch dafür werden

00:18:43: wir wieder Juristen brauchen. Also die Vermutung, die da eigentlich so im Raum steht, ist nicht,

00:18:49: dass wir weniger brauchen, sondern tatsächlich drei bis fünf mal so viele, wie wir heute haben.

00:18:53: Das ist so ein bisschen wahrscheinlich wie die Roboter in der Autofertigung, wo man dann sagt,

00:18:57: die ersetzen zwar einen in der Fertigung, aber brauchen eben mindestens auch noch ein,

00:19:02: zwei, drei, vier Leute, die diese ganzen Roboter in der Fabrik warten. Ja, nicht nur das, sondern

00:19:07: auch wenn du da clever mit umgehst, die dann Geschäftsmodelle und Weiterentwicklungen damit

00:19:12: anstreben. Das geht ja jetzt nicht mehr darum, wie in der Industrialisierung. Und dieses Fehldenken

00:19:18: haben wir dann oft noch. Wir haben dann jetzt ein Roboter und dann haben wir für 25 Jahre Ruhe,

00:19:22: weil der wird dann produzieren. Das wird es so nicht mehr geben. Wir werden einen Roboter haben.

00:19:26: Und da werden wir im nächsten Jahr einen anderen Produktionsprozess darauf aufsetzen. Dazu müssen

00:19:31: wir uns aber überlegt haben, was bedeutet dann in der Automobilindustrie zum Beispiel überhaupt

00:19:35: Mobilität? Wie werden Menschen sich fortbewegen? Und dafür brauchen wir dann eben wieder Menschen,

00:19:41: weil dieses Kreativpotenzial und Neudenken kann KI einfach quasi ihrer Programmierung nicht,

00:19:47: weil sie ja nur auf bestehendes Wissen zurückgreift. Und dafür brauchen wir aber jetzt eben Neues.

00:19:52: Die kann zwar auch viele Kombinationen schaffen, die sie aber sinnvoll zu integrieren in kreative

00:19:59: Umsetzung, Geschäftsmodelle in Alltagsleben. Das wird ihr nicht so leicht fallen. Da fällt mir

00:20:05: dann beispielsweise so etwas ein wie Medizinforschung, wo ich mir ganz gut vorstellen könnte, weil

00:20:09: da hast du relativ klare Prozesse und sehr klare Abläufe, dass man sagt, okay, das ist ein

00:20:14: idealer Prozess für eine KI. Da muss sich dann eben keiner mehr hinsetzen und alle Sequenzen

00:20:18: auswerten, einzeln, sondern da lassen wir die KI drüber laufen. Und die Interpretation ist

00:20:23: ja auch relativ vorgegeben, allein schon durch das Subjekt, was ich untersuche.

00:20:28: Und genau dieses Denken ist wahnsinnig gefährlich, weil wir nämlich dann keine Fehler mehr machen.

00:20:33: Das heißt, wenn wir dann eine KI haben, die immer richtig ist, dann kann das, wodurch die meisten

00:20:38: Innovationen in unserem Alltag entstanden sind, in der Chemie, in der Technologie, in der Elektrizität,

00:20:44: durch Fehler, kann dann nicht mehr stattfinden. Das heißt, der Mensch als jemand, der Ergebnisse

00:20:51: vielleicht auch fehlinterpretiert, das Komma an der falschen Stelle setzt, etwas unvorsichtigerweise

00:20:58: irgendwo reinkippt, was da nicht reingehört, der fällt dann weg. Und Chaos ist tatsächlich eine

00:21:04: unglaubliche Inspirations- und Innovationsquelle. Und KI ist, auch wenn sie für uns undurchschaubar

00:21:11: scheint, aber sie ist nicht Chaos. Sie macht, quasi, ihrer Programmierung immer den logischen

00:21:18: nächsten Schritt, den logischen nächsten Schritt, das nächste passende Wort, die nächste passende

00:21:22: Bezugsebene zusammenzuführen. Und da hast du schon das Problem, es muss alles zusammenpassen.

00:21:28: Und Innovation passt nicht immer zusammen, sondern die kommt manchmal auch, wir sagen das dann immer,

00:21:34: das sind diese sogenannten Sprung-Innovationen, die passieren in aller Regel durch Fehler oder

00:21:40: durch Zufälle, die du, wenn du sie versuchst, zu konstruieren, so niemals hinbekommenst.

00:21:45: Schauen wir nochmal ein bisschen auf das Produktionsbereich. Also klassische Automobilproduktion,

00:21:52: Möbelproduktion, was auch immer an Produkten produziert wird. Technologische Produkte vielleicht

00:21:57: auch. Wird KI darauf auch einen Einfluss haben? Sicher. Wir werden das alleine schon dadurch haben,

00:22:04: dass wir bestimmte Produktionsmuster vorher berechnen können. Also ein großer Automobilhersteller

00:22:09: aus Stuttgart macht das bereits. Das heißt, die können die unendliche Vielzahl an Sonderausstattungen,

00:22:17: die da im nächsten Jahr gebucht werden wird, relativ genau vorherberechnen und entsprechend

00:22:23: vorbestellen. Und die können zum Beispiel auch Qualitätschecks natürlich über KI machen lassen.

00:22:30: Das heißt, wenn du vorher vier Stunden für einen Qualitätscheck brauchst, brauchst du jetzt

00:22:35: wahrscheinlich irgendwas um die vier Minuten oder neun Minuten, irgendwie sowas. Das ist tatsächlich

00:22:40: etwas, wo KI dem Menschen wirklich sinnvoll etwas abnehmen kann. Und wo sie auch, da geht es ja

00:22:46: auch um Standards, da geht es ja darum, dass genaue Standards eingehalten werden. Und da ist sie

00:22:51: besser als wir. Wenn wir dann aber in die Entwicklung der Automobilindustrie gucken und würden das

00:22:57: dann nur mit KI machen, dann will eben immer nur Standards produziert, die wir schon kennen. Und

00:23:02: das ist halt dann nicht mehr der richtige Weg. Und deshalb wird sich da in diesem Bereich eine ganze

00:23:08: Menge ändern. Wir werden ohnehin anders produzieren, nicht mehr an so großen Orten, weil auch die

00:23:15: ganze Technologie wird kleiner. Wir können dann im Moment werden sehr viele E-Autos kleinerer

00:23:24: Stückzahlen, die kannst du inzwischen in etwas größeren Garagen von 80, 90 Quadratmetern bauen.

00:23:30: Und dann werden die dort vor Ort gemacht, stehen in der Mitte haben, Roboter, die chaotisch

00:23:35: angelieferte Teile an die richtige Stelle in der richtigen möglichen Reihenfolge setzen. Dabei

00:23:40: hilft KI. Das heißt, du brauchst nicht mehr diese vollkommen durchdachten, langen Produktionsstrecken,

00:23:46: weil KI hier sinnvollerweise das Ganze dann an einer Stelle mit ein bisschen Denken übernimmt,

00:23:53: wo der Mensch einfach zu lange brauchen müsste. Das gilt aber auch zukünftig bis hin zu

00:23:57: Bahntakten. Also wir haben im Moment feste Fahrpläne und zukünftig wird KI, da bin ich mir sicher.

00:24:04: Asien passiert das auch schon berechnen können. Wenn ich den Zug jetzt hier drei Sekunden oder

00:24:10: 20 Sekunden vorher losfahren lasse, was bedeutet das fürs Gesamtsystem? Wo kann ich dann deshalb

00:24:17: wieder etwas aufholen? Das geht teilweise bis hin in die Stunden, die dann am Ende des Tages

00:24:21: rauskommen. Und solche Sachen werden halt uns sehr, sehr unterstützen, nicht nur in Produktionen,

00:24:27: sondern auch in vielen Alltagsprozessen. Da kommt der Mensch einfach nicht hin. Aber dann eben doch

00:24:33: diese Zufälle einzuplanen, auch wenn du so ein Taktsystem bei der Bahnmalen nimmst, wo du dann auf

00:24:38: einmal aus irgendeinem Grund einen menschlichen Fehler zwischen hast und auf einmal neue Möglichkeiten

00:24:43: entdeckt, die die KI niemals berechnen würde. Also das sind dann wieder Sachen. Da brauchen wir

00:24:47: das Zusammenspiel und das ist das, was ich vorhin meinte. KI plus Mensch ist einfach eine Potenzierung

00:24:52: der Möglichkeiten, weil sie eben Zufall mit Genauigkeit kombiniert und nicht nur das eine

00:25:00: oder das andere schafft. Wenn wir dann dahinter noch eine entsprechende Wertstellung haben,

00:25:07: das heißt also möchten wir die gewonnene Zeit einfach für noch mehr Automatisierung und

00:25:13: Produktion verwenden oder möchte ich die gewonnene Zeit dazu verwenden, für immer mehr Menschen

00:25:20: eine Teilhabe und ein sinnvolles Leben zu ermöglichen und auch ein schönes Leben zu ermöglichen. Und

00:25:26: an der Stelle sind wir tatsächlich gekommen, denn viele Menschen fühlen sich im Moment nicht

00:25:32: wohl, fühlen sich im Moment auch in Städten nicht wohl, fühlen sich in ihrer Umgebung nicht

00:25:36: wohl und mit der Politik nicht und so weiter fühlen sich nicht verstanden. Da gibt es nicht

00:25:40: genug die Zuhören und all das ließe sich mit KI nicht komplett lösen, aber es lässt sich

00:25:48: zumindest den Ansätzen zu einer Lösung bringen. Du sagst ja auch immer wir müssen uns unsere

00:25:53: Zukunft so gestalten, wie wir sie haben wollen. Das ist ja so ein bisschen das Credo, was du immer

00:25:57: wieder verfolgst. Was müssen wir denn bei KI tun, damit KI für uns so funktioniert, wie man sich

00:26:03: das vielleicht vorstellen möchte und nicht in düsteren Endzeit-Szenarien vorgedacht bekommt?

00:26:08: Industriell sind wir gewohnt, dass wir in so einer Wahrscheinlichkeitswelt leben, sehr defensiv. Wir

00:26:14: richten uns nach dem was kommt und versuchen uns an zu passen. Das macht in der Industrialisierung

00:26:19: auch Sinn, weil die großen Systeme zu steuern ist für uns gar nicht möglich gewesen. Wenn dann

00:26:25: da neue Trends, neue Ideen, die sich langsam durchsetzen kommen, dann bereiten wir uns mal

00:26:30: zu langsam darauf vor, was da kommt. In der Digitalität wird das sowohl in Produktionen,

00:26:34: auch in kognitiven und intellektuellen Prozessen anders werden. Da werden wir täglich neu denken

00:26:40: können. Und dieses tägliche Neudenken müssen wir aktiv betreiben. Und diese aktive Seite, die

00:26:49: haben wir in der Industrialisierung leider immer ausgeblendet. Das heißt, wir sind das nicht

00:26:52: gewohnt. Wir müssen mehr Verantwortung übernehmen. Wir haben dadurch aber auch mehr Freiheiten. Und

00:26:58: wir schreien zwar immer nach Freiheiten, aber viele Menschen sind dann, wenn sie eben doch diese

00:27:02: Freiheiten haben, auch damit dann überfordert, nicht weil sie dumm sind, sondern weil sie das nicht

00:27:08: gelernt haben, damit umzugehen. Das ist auch ein Grund, warum heute dieses von dir vorhin angesprochene

00:27:14: Social Media so gut funktioniert bei vielen, weil es nimmt uns die Freiheit, die wir haben. Wir

00:27:21: können dann wieder etwas Vorgebenes in unseren Alltag integrieren, an dem wir uns entlanghangeln

00:27:27: können, ohne selber etwas kreieren und gestalten zu müssen. Und das ist etwas, wo wir komplett neue

00:27:37: Strukturen bekommen werden. Ja, lieber Max, das waren ganz, ganz viele tolle Denkanstöße,

00:27:42: auch vor allem, weil man kann natürlich für jede dieser Fragen, die wir jetzt eben diskutiert haben,

00:27:46: wahrscheinlich noch mal unglaublich tief einsteigen jeweils und aus jeder wahrscheinlich eine

00:27:51: einzelne Podcastfolge zum Thema Künstlich-Atelegenz machen. Da gibt es übrigens auch ein paar gute

00:27:55: Podcasts, die man sich mal anhören kann, viele halt auch im englischsprachigen Raum. Als letzte

00:27:59: Frage sei mal gestattet, dass du vielleicht noch mal sagst, was sind denn so die interessantesten

00:28:04: Anwendungen, wo du sagst, das hat dich in letzter Zeit wirklich fasziniert beim Thema KI, wo du sagst,

00:28:09: das hätte ich mir vor dem Jahr vielleicht noch gar nicht vorstellen können, dass wir so schnell

00:28:13: dahin kommen. Das allerwichtigste ist einmal zu verstehen, dass KI ein Large Language Model ist,

00:28:19: und das ist dem wenigsten Menschen eigentlich bewusst. Die kann halt nicht nur Deutsch, Englisch,

00:28:24: Französisch, sondern sie kann alle Sprachen, sie kann DNA-Code, sie kann alle Chemischen,

00:28:29: alle physischen Codes. Programmiersprachen ist ja auch ein Thema. Programmiersprachen,

00:28:32: sie kann all das und sie gibt uns das, was wir von ihr wissen wollen auf Basis des gesamten

00:28:37: vorhandenen Wissens, in der Sprache und in der Tiefe und in der Deutlichkeit aus,

00:28:43: die wir von ihr gerne gerade hätten. Und ich habe mal versucht, hätte was über 3.500 Studien,

00:28:50: die mir so in die Hände gefallen sind, durch die KI lesen zu lassen. Es ging mir darum,

00:28:55: was denken Menschen eigentlich über Zukunft? Da hat diese KI also alle 3.500 Studien durchgeblättert

00:29:02: und hat dann für mich in einem einzigen Satz, das war meine Aufgabe, diesen beantwortet. Und da

00:29:07: kam es dann irgendwie die meisten Menschen denken Zukunft heißt, ich muss mich mit ganz viel

00:29:12: neuer Technik auseinandersetzen. Ich soll Insekten essen und die KI übernimmt meinen Job. Für eine KI

00:29:18: sehr selbstbewusst, dass selber so zu behaupten. Aber das ist im Prinzip das, was so eine KI dann

00:29:23: natürlich schon auch kann. Und das ist für mich die stärkste Kraft, die uns gar nicht bewusst ist,

00:29:27: weil die kann all die Problemstellung, die die Welt für uns hat, erfassen. Das heißt, wenn wir

00:29:32: heute Nachhaltigkeitsberichte geschrieben haben, dann können wir in Zukunft genau sehen, was passiert

00:29:37: an welcher Stelle. Eine zweite große Sache ist für mich, dass sie Menschen in die Gesellschaft

00:29:44: zurückholen kann. Zum Beispiel haben wir das in Indien. Da gibt es ja viele Menschen, die können

00:29:49: nicht wirklich lesen und schreiben oder sind aber Bauern. Und die können jetzt mit einem kleinen

00:29:54: Tool, was sie an ihr Smartphone stecken, die Qualität ihrer Ernte bewerten lassen. Und die KI

00:30:00: übernimmt dann das Ausfüllend der ganzen Formulare, mit denen diese Produkte marktfähig

00:30:05: werden. Und dann kann man halt über bestimmte Zwischenhändler, die teilweise auch von den

00:30:10: Vereinten Nationen gesteuert werden, diese Produkte von den Menschen abholen. Und die können dann,

00:30:15: übrigens dann über Blockchain Geld, weil ein normales Konto bekommen, die nicht, dann halt auch

00:30:20: einen Entlohn dafür bekommen. Und das sind für mich so Sachen, wo ich wirklich merke, dass KI

00:30:26: einen Nutzen stiften kann. Das Dritte ist zum Beispiel, dass wir in der Agrarwirtschaft, wenn wir

00:30:32: eine lokale Agrarwirtschaft haben, so wie wir das jetzt zum Beispiel in Städten wie Barcelona oder

00:30:37: Copenhagen oder Arhus probieren, gibt viele andere noch, errechnen, was die Menschen in den nächsten

00:30:43: 48 Stunden wirklich essen werden. Und nicht nur in den nächsten 48, sondern wir können errechnen,

00:30:49: was sie in zwei Monaten essen werden. Und wir können entsprechend Produkte heranwachsen lassen

00:30:56: und sie dann so ernten, dass sie innerhalb von 48 Stunden von den Menschen gegessen werden. Dadurch

00:31:00: haben wir mehr Nährstoffe in den Produkten als heute, wenn diese zwei, drei, vier Wochen in

00:31:05: Distributionsketten durch die Supermärkte sind. Und wenn die Menschen diese Produkte essen und

00:31:11: mehr Nährstoffe zu sich nehmen, werden sie weniger krank. Und damit hast du dann wieder einen

00:31:16: riesengroßen Effekt auf die Volkswirtschaft. Und das sind eigentlich so für mich die Effekte, wo ich

00:31:21: bei KI sage, das sind wirkliche Leistungen, die über das, was die meisten Menschen heute immer

00:31:28: noch damit machen, nämlich E-Mail schreiben, weit hinausgehen. Ja, du hast es angesprochen. Ich

00:31:32: wollte es gerade sagen. Also das sind natürlich jetzt Themen, die gehen ganz weit weg von dem,

00:31:36: was wir heute eigentlich in vielen Teilen unter künstlicher Intelligenz bestehen. Das ist

00:31:40: ChatGPT, fast schon der moderne Klassiker unter der künstlichen Intelligenz, aber auch eben diese

00:31:46: ganzen Bilderstellungsprogramme, die zwar faszinierend sind, aber ja erstmal nur etwas produzieren,

00:31:51: was keinen Wert stiftet. Und da sind wir ja wieder bei deinem Thema auch von vorhin,

00:31:54: dass es eben auch darum geht, Werte zu erschaffen mit der KI. Und diese Werte, und das geht eben nur

00:32:00: im Tarteinhalt mit den Menschen. Also das schafft KI nicht von alleine, sondern wir müssen ihr

00:32:04: dann schon die Idee geben, das in die richtige Richtung zu tun. Und jetzt kommen um das nochmal

00:32:08: abzuschließen, natürlich immer wieder die Menschen. Man kann ihr auch was Böses natürlich mit auf den

00:32:13: Weg geben. Da muss ich jetzt auch ganz ehrlich mal sagen, ich habe bisher in meinem Leben festgestellt,

00:32:19: dass 99 Prozent der Menschen, mit denen ich zusammen treffe, wirklich positiv sind und auch

00:32:24: wirklich in die richtige gute Richtung denken wollen. Und es gibt immer Kriminelle. Wir werden

00:32:29: das nicht verhindern können. Aber ich bin sehr, sehr sicher, dass wir es schaffen werden, mit ein paar

00:32:34: klugen Gedanken oder Sicherheitsgedanken KI in die richtige Richtung zu bewegen. Wir müssen uns

00:32:39: nur bitte von industriellen Denkmustern der Zentralität und dass Technologie beherrschbar ist

00:32:46: oder uns beherrschen könnte, loslösen und einfach mal überlegen, einem Hammer geben wir auch die

00:32:51: Macht den Nagel besser einschlagen zu können als wir. Und wir können mit KI genau dasselbe

00:32:56: erreichen, nur eben auf kognitiver Ebene. Und dieses Bild möchte ich den Menschen gerne mitgeben und

00:33:03: sagen, es ist nichts anderes, es ist nicht künstlich. Wir haben in Dänemark jetzt einen König neu bekommen.

00:33:09: Der ist auch genauso künstlich, weil er vielleicht einfach da reingeboren wurde. Das ist auch nur eine

00:33:15: Geschichte, die wir uns erzählen. Und über KI können wir uns Geschichten nicht nur erzählen,

00:33:19: wir können sie auch schreiben. Das hoff ich machen wir. Beziehungsweise sogar schreiben lassen.

00:33:24: Auch das hat ein Kollege von mir schon ausprobiert, der hat sich nämlich eine gute Nachtgeschichte

00:33:28: fürs Kind schreiben lassen. Es hat ganz gut funktioniert sogar. Ja, dann Max, vielen Dank dafür.

00:33:33: Auch wenn wir jetzt wirklich nur an der Oberfläche des ganzen Themas gekratzt haben, war es glaube

00:33:36: ich ein ganz, ganz wertvoller Einblick in das Thema. Und wenn Sie, liebe Zuhörerinnen und Zuhörer,

00:33:41: Fragen haben rund um das Thema künstliche Intelligenz, dann schicken Sie die uns doch gerne zu oder

00:33:46: kommentieren Sie in Social Media und wir werden die dann in einer der nächsten Folgen in so einer Art

00:33:51: ja FAQ sagen wir mal aufgreifen, wo wir die drängsten Fragen von Ihnen auch klären können.

00:33:56: Also schreiben Sie uns an podcast@dk.de oder kommentieren Sie unter dem YouTube Video,

00:34:02: dem Social Media Postings oder wo auch immer Sie uns hören. Wir werden es sicherlich mitbekommen,

00:34:08: da bin ich ganz sicher. Ja, das nächste Mal, Max, haben wir schon besprochen, was wir besprechen

00:34:13: möchten, nämlich das Thema Arbeit und da schließt sich auch so ein bisschen der Kreis mit der KI

00:34:18: natürlich. Da werden wir auch viele Themen wiedersehen, die wir heute vielleicht besprochen haben,

00:34:22: aber es geht auch natürlich um Arbeitsmodelle in der Zukunft, auch in der Urbarnwelt,

00:34:26: vielleicht was wird sich da verändern in der Zukunft und wie viel arbeiten wir dann eigentlich

00:34:30: im Homeoffice und arbeiten wir vielleicht irgendwann mit einer virtuellen Brille oder nicht. Ich

00:34:34: glaube, das sind so die Themen, die wir dann anreisen werden. Ich freue mich heute schon sehr

00:34:37: sehr, und das wird super spannend. Ich kann allen nur empfehlen, diesen sowie die nächsten 500 Folgen

00:34:42: einzuschalten. Definitiv. Also vielen Dank nochmal für deine Gedanken heute und machen

00:34:47: Sie es gut und bis bald. Tschüss.

00:34:50: Mikro trifft Makro ist ein Podcast der DekaBank. Weitere Informationen zur DekaBank finden Sie

00:34:57: unter www.deka.de/deka-gruppe.

00:35:03:

00:35:04: