#197 Menschliche KI - Haben wir in Zukunft Roboter mit Emotionen als Haushaltshilfe?
Shownotes
In der heutigen Folge wird es futuristisch. Feli und Felix haben durch die neueste Diskussion um Sicherheit und Schnelligkeit in der KI-Entwicklung nochmal das Thema KI durchgespielt. Da gerade einige Kommunalwahlen stattfinden, diskutieren sie allerdings erstmal darüber. Nebenbei geht es auch noch um Hecken, die Äpfel ausspucken. Das Thema humanoide Roboter mit Emotionen hat die beiden in letzter Zeit stark beschäftigt. Inwieweit kann man Maschinen vermenschlichen?
Hier der direkte Link zu unserem neuesten Song auf allen Plattformen:
https://www.music.felixcitas.com/procrastination
Viel Spaß und nicht vergessen:
- Klicken
- Liken
- Teilen
- Abonnieren
Schreib uns gerne eine E-Mail: podcast@felixcitas.com
- Wir freuen uns über jede Mail von dir, und sag uns bitte auch, ob wir sie vorlesen dürfen, und ob wir deinen Namen sagen dürfen!
Folge uns auf unseren Seiten und connecte dich mit uns (Bilder und Videos zu den Folgen): https://www.instagram.com/felixcitas.podcast https://www.facebook.com/felixcitas.podcast Auf TikTok: www.tiktok.com/@felixcitas.podcast (Sneak Peaks zu den Folgen und Kurzvideos) https://www.youtube.com/@felixcitas (unsere Musik, unser Podcast) https://www.felixcitas.com/ Hier ist die Playlist zum Podcast: https://open.spotify.com/playlist/53S2WZmbNsV6tzNIa4Ec5M?si=fccea05ede354fd7
Dich interessiert auch unsere Musik? https://ampl.ink/aZQvP https://www.youtube.com/@felixcitas https://www.instagram.com/felixcitas
Transkript anzeigen
00:00:00: Hey Feli!
00:00:02: Hi Felix.
00:00:03: Du sag mal, wenn du so an die Zukunft von uns und der ganzen Welt denkst, freust du dich eher drauf oder hast du eher Angst?
00:00:10: was das Thema künstliche Intelligenz anbelangt?
00:00:16: Da bin ich zwiegespalt.
00:00:20: Müssen wir das jetzt mal ausdiskutieren?
00:00:21: Freuen mich und hab auch ein bisschen Muffen.
00:00:26: Okay.
00:00:38: Gute Gedanken Schön, dass ihr wieder da seid.
00:00:47: Hallo alle!
00:00:48: Moinie!
00:00:49: Guten Tag!
00:00:50: Ach Felix... Da sind wir wieder.
00:00:53: Na Feeney?
00:00:54: Wie sieht's
00:00:54: aus?!
00:00:55: Ja,
00:00:55: weiß ich auch nicht so.
00:00:57: Ich hab halt ein ganz komisches Bauchgefühl.
00:01:00: Wie kommt das denn los?
00:01:01: Sieht das an unserer Podcast voll.
00:01:03: Vielleicht bin ich so aufgeregt.
00:01:04: Also ich fühle mich aufgeregert.
00:01:06: Oder an der Kommunalwald in Niedersachsen.
00:01:09: Nee...
00:01:10: Das ist ja... Direkt eigentlich so
00:01:12: auf.
00:01:12: Ich find' die Kommunalwahl ist auch ein bisschen lame.
00:01:16: Ja, ist so mittelaufregend.
00:01:18: Bei einem wohnen wir ja an einem Ort wo wir das Gefühl haben hier läuft alles gut.
00:01:22: Ich
00:01:24: hab noch nie irgendwo gewohnt wo ich dachte da läuft es richtig gut wie hier.
00:01:29: also das muss er wirklich dazu sagen oder?
00:01:32: Das stimmt.
00:01:33: Vielleicht kriegen wir nur die Sachen nicht mit wo's nicht läuft.
00:01:36: Naja wir kriegen ja alles mit.
00:01:38: und was wir alles mit kriegen dass läuft
00:01:40: Also mit den Ämtern wo wir mal Kontakt hatten Auf das Bauabend, Ordnungsamt.
00:01:46: Jetzt kommen wir hier mit den ganzen Dingern ein Monat melde amt Das lief alles immer reibungslos.
00:01:54: die haben sich schnell gekümmert keine warte zeiten.
00:01:57: also ich da kann überhaupt nicht meckern finde ich.
00:02:00: Nee das stimmt.
00:02:01: Ich bin auch positiv überrascht.
00:02:03: dass hat man auch schon anders erlebt in anderen Orten Städten Ja
00:02:06: ja auf jeden Fall in städten vor allem.
00:02:09: Es hieß eine nummer und dann sitzt du da zwei stunden bis du endlich irgendwann aufgerufen bist.
00:02:14: Ja, da war man so.
00:02:15: Wir haben eigentlich nichts auszusetzen.
00:02:18: Blöd dass man trotzdem nicht den Willen konnte der das alles bisher betreut hat.
00:02:23: er hat nämlich keine Lust mehr gehabt.
00:02:24: Hat ja keiner Lust mehr?
00:02:25: Ich
00:02:26: weiß nicht.
00:02:26: ehrlich gesagt ich kenne mich nicht so aus mit der Kommunalpolitik.
00:02:29: Sie weiß nur als wir
00:02:30: hergezogen sind.
00:02:32: Genau also wir her gezogen sind ja da kannten wir noch nicht die ganzen Umstände hier und haben nur gedacht naja es scheint ja zu laufen dann kann man ja mal wieder wählen Und lief ja auch weiter, also wie gesagt.
00:02:44: Wir haben jetzt nicht gemerkt irgendwo an welchen Stellen ... Also wir kriegen natürlich nicht alles mit.
00:02:50: aber ja deswegen ist es irgendwie...
00:02:53: Da bist du auch nicht aufgeregt?
00:02:55: Nee da kommt meine Aufregung, nee ich weiß das nicht!
00:02:58: Es fühlt sich mir skottübel, würde ich mal sagen, ich sag's einfach als wenn wir morgen Auftritt hätten so fühl' ich mich, es kribbelt den Bauch um mir schlecht.
00:03:09: Ja manchmal fühle ich mich auch so Mensch hör auf, jetzt fang ihr auch schon an mich dazu
00:03:11: fühlen
00:03:12: Aber wir haben noch gar nichts, warum wir aufgeregt sein
00:03:14: müssen.
00:03:14: Nee überhaupt nicht!
00:03:16: Also wirklich gar nicht!
00:03:18: Vielleicht auch... Wir arbeiten beide am Moment unheimlich viel und das ist so... Man weiß es geht jetzt morgen wieder los?
00:03:29: Vielleicht deswegen aufgereght.
00:03:31: So viele Termine und Sachen zu erledigen und jeder will was von allem und...
00:03:36: Mein Highlight war ich hab die Nacht von Freitag auf Samstag bis fünf Uhr morgens an unserem neuen Songtext rumgeschraubt.
00:03:44: Echt,
00:03:45: du bist so krass!
00:03:46: Feli hat ja mir schon einen schönen Text quasi gegeben und dann guck ich noch mal drüber und eigentlich wollte ich ganz entspannt noch ein bisschen Fernsehen gucken, so nachts um zwölf oder eins, fiel mir das da rein, dann ach komm, ich gucke da nochmal eben drauf und gucke mal eben...und dann war es auf einmal fünf.
00:04:04: Und dann kann man ja sagen Du hast dir denn auch Hilfe geholt nicht von anderen Songwriter, sondern von der KI.
00:04:11: Ob man bestimmte Dinge denn so sagen kann?
00:04:14: Genau das haben wir voll zu zweit durchgezogen.
00:04:18: Chat und ich.
00:04:24: Ja da sind ja fast beim anderen Thema aber auch fast bei unserem Thema Denn es ist ja auch dann immer die Frage, war auch in der Musikerbubble.
00:04:34: Ist ja nun die Sache mit der künstlichen Intelligenz.
00:04:36: auch immer wird sehr skeptisch gesehen.
00:04:39: aber wir als Norddeutsche sind natürlich mit dem amerikanischen slang nicht so vertraut Und wir geben auf und zu, wir holen uns Hilfe damit das amerikanische Englisch was wir dann singen auch einigermaßen authentisch rüber kommt.
00:04:54: Und darum fragen wir immer mal nach ob das was wir da so von uns geben auch im englischen so also von einem native speaker auch nicht als ganz seltsam empfunden wird?
00:05:04: Ja war sonst wie herzer salad!
00:05:08: Genau und das wollen wir dann vermeiden.
00:05:12: Aber es ist ja trotzdem krass dass du dann bis fünf Uhr morgens dann noch weiter daran rumgeschraubt hast.
00:05:19: Ja, und das war ja nicht nur so ... dass ich jeden Satz umgestellt hab?
00:05:23: Das waren wirklich nur Details!
00:05:25: Und diese Details haben Chad und ich dann aber fünf Stunden lang durchdiskutiert.
00:05:29: Wie könnte man das machen?
00:05:30: Nee, lass uns mal dieses Wort nehmen.
00:05:32: Nee, das Wort gefällt mir immer nicht.
00:05:34: Vielleicht schlage ich mal das vor...
00:05:35: Es darf auch nicht zu holprig werden, weil ich habe mir schon was dabei gedacht, warum das ein bestimmtes Reimschema zum Beispiel hat.
00:05:43: Wenn dann komplizierterer Satz daraus wird und ich dann überhaupt nicht dahinter herkomme.
00:05:50: Ja, das ist natürlich auch... Das haben wir aber auch, habe ich ihm auch gleich erzählt.
00:05:54: Also hat Priorität dass es auch gut singbar ist.
00:05:57: Wo das weiß er natürlich nicht was gut singbaß oder nicht weil er ja nicht weiß wie wir das singen wollen.
00:06:02: Dann hab ich aber hin und wieder hat er mir mal irgendwas vorgeschlagen und gesagt sorry Chad Aber das lässt sich mit der Melodie die wir so vorhaben nicht gut singen können wir nicht nehmen.
00:06:12: Also das ist zum Beispiel, wenn ich dann irgendwie was sage von wegen... Ich will mir mal ein Beispiel nennen.
00:06:17: Wenn ich dann schreibe sweet und die sagen das aber in diesem Kontext gar nicht sondern sagen dann cute Dann wäre das so die Verbesserung.
00:06:26: Ja und das kann man ja auch gut singen.
00:06:28: Und ja das wissen wir als typische Norddeutsche noch nicht, also echt sagt man mal sweet oder cute.
00:06:34: Jetzt im Grunde wenn man bisschen drüber nachdenkt Eigentlich
00:06:36: ja es ist cute sind vorallem bei vielen Dingen wenn's um Menschen geht so ne?
00:06:42: Und ehrlich gesagt finde ich das jetzt nicht schlimm, wenn man sich da ein bisschen Hilfe holt.
00:06:47: Denn Hauptsache, das Ergebnis ist vernünftig!
00:06:50: Wir gucken mal was es noch wird.
00:06:52: und ja unser neuer Song hast du auch gerade gesagt, also es ist ja auch schon so weit dass wir das bald raushauen können endlich mal.
00:07:01: Wir sind ja wirklich... Also wir wollten den ja schon im Februar eigentlich fertig haben und dann sieht man mal wie man sich doch vertut wie ich hier Arbeit so ein einzelner Song auch machen kann.
00:07:13: Ja, Arbeit natürlich und man hat das Gefühl irgendwann dass er fertig ist.
00:07:19: aber wenn das Gefühl nicht da ist wir haben ja Gott sei Dank jetzt keine Dings, keine Eile Und Feli ist dann immer am.
00:07:26: ich sage mal Schimpfen nicht Aber am Nurgeln oder
00:07:29: am... Ich mach dir Druck!
00:07:34: Und dann sag' ich immer Nee es ist nicht fertig.
00:07:39: Aber ist das fertig?
00:07:40: Ja,
00:07:40: weil ich nicht viel machen kann.
00:07:41: Ich kann höchstens sagen hier... Das ist meine Geschichte!
00:07:45: Das ist mein Text und so möchte ich singen und ich singe.
00:07:48: Und das ist das Einzige was ich machen kann!
00:07:51: Ja, da hast du ja schon mal was, dann muss ich das nicht machen.
00:07:53: Ja aber du musst alle Instrumente machen!
00:07:56: Das finde ich krass dass du das gehst.
00:07:57: Ich weiß gar nicht wie du das machst
00:07:59: Ja, weiß auch nicht.
00:08:00: Das passiert einfach.
00:08:01: Aber finde ich, da wollen wir eigentlich gar nicht reden?
00:08:03: Nein!
00:08:03: Da wollen
00:08:03: wir gar nichts drüber reden.
00:08:04: aber du hast ja mit angefahren.
00:08:05: Du hast damit angefahren?
00:08:07: Du hast angefahren!
00:08:08: Nee, hab' nie angefahren's.
00:08:09: Doch dann fängst du
00:08:09: immer an!
00:08:10: Das reden wir einander mal weiter denn demnächst kommt die Folge wenn wir über unseren neuen Song reden... ...aber das dauert noch ungefähr vier Wochen bis der rauskommt.
00:08:18: und dann weil wir... Also
00:08:19: nicht den wo du jetzt bis fünf Uhr morgens dran gearbeitet hast
00:08:22: sondern den wir
00:08:23: jetzt abgeschlossen haben.
00:08:24: Genau, wir haben einen abgeschlossen.
00:08:26: der kommt in ungefähr vier Wachen raus.
00:08:29: Sag lieber fünf.
00:08:31: Mal gucken, je nachdem wie wir uns entscheiden.
00:08:33: Der ist jetzt wirklich fertig und obwohl der andere gerade SVD ist hatte ich schon Lust mit dem neuen anzufangen.
00:08:38: Ich war so einem Rausch gewissermaßen in einem Flow und danach die Geil!
00:08:44: Ich fange gleich mit dem nächsten an.
00:08:47: Das war dann halt zufällig mitten in der Nacht.
00:08:50: Aber warum haben wir über die Nacht geredet?
00:08:52: Weil
00:08:53: wir so ein komisches Bauchgefühl haben und viel gearbeitet haben, deswegen sind wir da raufgekommen.
00:08:59: Ansonsten obligatorisch das Wetter!
00:09:03: Sollte noch nicht mal ihm auslassen...
00:09:04: Das Wetter
00:09:06: ist im
00:09:06: Moment
00:09:09: nieselig, bisschen regnerisch, bisschen windig.
00:09:12: Es taucht ab und zu mal die Sonne auf aber ich finde es noch erträglich und okay.
00:09:17: Ungefähr zehnminütige Zeitfenster, wo man mal kurz nach draußen gehen kann sich in die Sonne setzen.
00:09:22: Die
00:09:22: nutze ich dann immer?
00:09:24: Ich nicht!
00:09:25: Ich bräuchte noch so einen Alarm.
00:09:26: Jetzt
00:09:28: raus,
00:09:29: raus!
00:09:30: Ja, Unkraut wächst auch wieder nach?
00:09:31: Haben wir gerade begutachtet.
00:09:33: Ich war ja vor ein paar Wochen stolz, dass ich alles schön weggerupft habe und jetzt ist alles wieder da.
00:09:38: Feni erwartet ernsthaft, dass sich ein weggerupftes Unkrauth mehrere Monate geduldet bis es sich dann mal wieder
00:09:45: irgendwann zeigt.
00:09:45: Mann, ich hab's doch an der Wurzel gepackt.
00:09:47: Wie kann das denn
00:09:48: wiederkommen?!
00:09:50: Das geht blind schnell, Feni... Siehe, voll wie fünf oder was war das?
00:09:56: Zwei.
00:09:56: Zwei so da schon.
00:09:59: Erste war die Kindheitsfolge
00:10:00: glaube ich.
00:10:01: Auf jeden Fall vor einer ganz frühen Folge haben wir jetzt zum ersten Mal über unsere Gartenerlebnisse berührt geredet.
00:10:07: Ja aber da haben wir das ja gerade diese Macht der Naturgewalten hier kennengelernt
00:10:16: und darum wundest du dich jetzt dass nach einem Monat das Unkraut wagt wieder aufzutauchen.
00:10:21: Ja, ich glaube das ist echt normal.
00:10:22: Unkraut?
00:10:24: Ich hatte mal ein Biolärer der hat gesagt es gibt keinen Unkraud!
00:10:27: Es gibt nur Wildwachsen!
00:10:30: Das kann man vielleicht auch so sehen.
00:10:33: Ist Ansicht wie alles... aus welcher Perspektive man drauf schaut.
00:10:38: Ich nehme die spießige Perspektiven und nenn es Unkrauth.
00:10:42: Wir haben da einen Sohnkraut wenn man daran ruft, das riecht so widerlich.
00:10:47: Ich hasse diesen Geruch aber das ist einfach das Wächste überall Geht gar nicht.
00:10:52: Und aus unserer Hecke fallen jetzt Äpfel.
00:10:54: Erklären wir das mal einer, ich verstehe
00:10:56: das nicht.
00:10:56: Ja diese Hecke haben wir nicht selbst uns ausgedacht sondern die haben wir so geerbt gewissermaßen.
00:11:02: und ja nun haben wir den Salat auch da und haben vier verschiedene Häcken in einer Hecke inklusive Apfelbaum.
00:11:08: Ja
00:11:08: irgendwie schon ne?
00:11:10: Also irgendwie fallen da jetzt immer Äpfeln raus keine Ahnung ob man die essen kann.
00:11:16: Die sehen ein bisschen zu klein aus zum Essen.
00:11:17: Ich
00:11:18: hab ja auch da vorne den Flaumen bauen, weiß ich auch nicht ob diese Flaume ab die S-Bar ist und ... Ich habe eine Freundin schon gefragt, aber sie hat gesagt, sie wird das nicht für mich ausprobieren.
00:11:30: Frechheit!
00:11:31: Warum eigentlich nicht?
00:11:32: Und die nennt sich Freunde nur
00:11:33: oder was?
00:11:34: Das freut alles nichts mehr wert, du.
00:11:39: Keiner will das mal hier... Ich meine es gab doch früher auch schon wie heißen die nicht Voresser vor Tester?
00:11:44: Vor Koster?
00:11:46: Nee
00:11:47: Da können wir auch die Katze sonst vernehmen.
00:11:49: Wie heißen diese Leute?
00:11:50: Ja, Vorkost ja!
00:11:51: Doch
00:11:51: ne?
00:11:52: Die dann für ein König probiert haben ob das giftig ist oder so.
00:11:55: ne?
00:11:57: Ein Job mit leichten Risiken.
00:12:01: Na gut, kommen wir doch zu unserem heutigen Thema.
00:12:04: Also wir haben es ja schon bisschen angerissen.
00:12:06: Es geht um KI und genauer gesagt um humanoidal hovertor
00:12:13: Aber nicht nur, es geht um die ganzen neuen Entwicklungen.
00:12:15: Eigentlich so eine allgemeine
00:12:18: Update-Folge
00:12:19: was KI angeht.
00:12:20: einerseits gibt's ja die ganz aktuelle Nachricht dass sich die beiden größten AI Firmen mehr oder weniger unabhängig voneinander drauf geeinigt haben die AI Entwicklung das ist ein schweres Wort Die mal so'n bisschen einzuschränken.
00:12:36: Ja das stimmt aber AI finde ich irgendwie auch ein schönes Wort.
00:12:40: und Andererseits habe ich vor kurzem noch mit einem Bekannten gesprochen, der sehr tief in diesem Thema drin ist.
00:12:47: Der hat mir auch wirklich interessante Dinge erzählt und das hat uns jetzt alles verleitet genau darüber heute mal ein bisschen zu reden.
00:12:55: Ja!
00:12:56: Was hat er dir denn erzählt?
00:12:59: Also bei dem haben wir auch oder hab' ich auch drüber geredet.
00:13:02: Er kennt sich da wesentlich besser mit aus als ich.
00:13:04: eigentlich müsste der in diesen Podcast sein.
00:13:09: ja auch so ein bisschen um das Thema Zukunft.
00:13:11: Das fing an damit, dass ME erzählt hat.
00:13:14: Dass die Forschung nicht nur diese, ich sage mal heute schon normale KI erforscht, die mehr oder weniger dann einfach nur logisch ihre Antworten gibt sondern das es auch um die sogenannte künstliche soziale Intelligenz und um die künstlige emotionale Intelligenze geht.
00:13:31: Das finde ich sehr beängstigend.
00:13:33: Dass
00:13:33: an diesen Gebieten auch geforscht wird!
00:13:36: Also... Ich weiß ja nicht.
00:13:38: Das ist wirklich auch so eine ethische Frage, inwieweit vermenschlicht man Maschinen?
00:13:45: Und ist das überhaupt möglich?
00:13:46: Weil gerade dieses Emotionale ... Ist ja noch das was uns Menschen von Maschine unterscheidet!
00:13:53: Genau das.
00:13:53: Das sind
00:13:53: nicht nur unser Fleisch und Blut sondern es ist ja auch diese Art und Weise wie wir uns verhalten auf Grundlage unserer Gefühle unsere Emotionen.
00:14:05: Das finde ich schon, also das ist schon eine andere Hausnummer ne?
00:14:09: Wenn man versucht Maschinen daran auch noch anzugleichen.
00:14:14: Ich wusste das auch nicht.
00:14:17: gedacht, okay.
00:14:18: Diese AI-Forschung ist halt so ... Klar hat die irgendwelche verschiedenen Gebiete aber im Grunde geht's um das eine Thema Künstliche Intelligenz, aber scheinbar gibt es dann wirklich Unterschiede und interessante Weise.
00:14:28: ich hab dann wirklich mal versucht etwas nachzuforschen.
00:14:32: meistens forsche ich ja nur drüber nach wie man ein Bass besser abmischen kann oder so ähnlich.
00:14:36: jetzt habe ich mich mal in andere Forschungsgebiete gewagt Und Ich hab zu diesem Thema Ich möchte mal sagen eigentlich fast bis gar nichts gefunden.
00:14:47: Ja, das ist total interessant.
00:14:49: Das scheint wirklich ein sehr spezielles Thema zu sein.
00:14:53: Ja, geheim oder vielleicht auch so speziell?
00:14:55: Dass es wirklich im normalen Alltags-Internet noch gar nicht richtig angekommen ist.
00:15:03: Darum ist natürlich auch etwas konkret darüber zu reden wenn man wirklich gar nicht so Informationen hat.
00:15:08: aber wie gesagt mein Bekannter der ist also wirklich verdammt fasziniert und Hat da ja bestimmt fast eine halbe stunde ohne also ohne dass ich was sagen musste hat er davon erzählt Einfach weil ihnen das so fasziniert und das ganze thema Ja, und das hat mich dann wieder umfaszinierend.
00:15:28: Aber ich habe dann im Grunde nichts konkretes gefunden.
00:15:31: aber auf jeden Fall Wenn man das was Ich von ihm gehört haben wenn man das jetzt mal als grundlage dann nimmt ist es wirklich so dass halt auch wie gesagt, an den sozialen Kompetenzen der künstlichen Intelligenz und auch an den emotionalen Kompletenzen geforscht wird.
00:15:47: Und das dann dementsprechend versucht wird im Grunde... Das ist jetzt ja die interessante Frage neue Arten von, nennen wir es ruhig mal so bewusst sein, künstlichem Bewusstsein irgendwie herzustellen zu entwickeln, zu bauen, wie man's auch immer nennen will.
00:16:09: Also wenn diese ganzen Themen allgemeine, ich sage mal Intelligenz.
00:16:14: Diese künstliche Allgemeinintelligenz mit der sozialen und emotionalen kombiniert wird dann ist die Frage handelt sich es dann wirklich noch um eine Maschine oder ist das schon ein Wesen was da dann entsteht?
00:16:26: Und ist dieses Wesen vielleicht schon weiterentwickelt oder wahrscheinlich auf jeden Fall?
00:16:32: also im technischen Bereich?
00:16:35: ja auf jeden fall ist es vielleicht weiterentwicklet als der Mensch ist der Mensch dann vielleicht sogar nicht mehr quasi das am weitesten entwickelte Wesen auf der Erde und es gibt ja unglaublich tiefgehende Fragen, die daraus entstehen.
00:16:48: Also die Gefahr besteht darin wenn man die KI so weiterentwickelt dass sie sich selbstständig weiterentwicklt Wenn die gar nicht mehr ein Input von Menschen braucht, über bestimmte Dinge nachzudenken oder Informationen irgendwo herzuholen.
00:17:06: Sondern wenn das so ein Selbstläufer wird und sich automatisch dann immer weiterentwickelt...
00:17:12: Auch an der Schwelle sind wir wohl gerade schon, wenn auch nur im Bereich der normalen.
00:17:19: Weiß den Fachberiff dafür nicht, der normalen schon verbreiteten künstlichen Intelligenz.
00:17:23: Die selbstweite Entwicklung.
00:17:25: Es gibt es auch schon und natürlich kommen da dann die ganzen Gefahren und die ganzen ... Ich sage mal, Horos-Szenarien, die man sich vorstellen kann.
00:17:38: Die Entwickler sehen aus wie du sagst.
00:17:40: Wenn sich so etwas weiterentwickeln kann sind wir ganz schnell bei dem alten Film Terminator II oder auch bei iRobot diese Filme wo es dann wirklich darum geht, dass sich die Menschen gegen zu hoch entwickelte Maschinen und Computer wehren müssen.
00:17:56: Weil diese Maschine und Computer entschieden haben den Menschen ... na ja... entweder zu bekämpfen oder vor sich selbst zu beschützen oder einzusperren oder zu unterjochen oder was auch immer.
00:18:09: Und dann schon wieder haben wir den Salat und müssen uns gegen diese ganzen Maschin-Menschenwesen wie auch immer zur Wehr setzen.
00:18:19: Ja, das ist aber wirklich Science-Fiction noch.
00:18:23: Die Entwicklung ist unfassbar schnell!
00:18:25: Das ist ja das was jetzt gebremst werden
00:18:27: soll.
00:18:27: Da kommen wir gerade zum anderen zur anderen Hälfte unserer Überlegung dass wir über dieses Thema reden wenn die Chefs der beiden größten ich sage mal westlichen AI Firmen es gibt auch noch dann China wie weit da die jetzt sind das ist mir nicht so klar.
00:18:43: die werden wahrscheinlich eh nicht weit sein schätze ich mal.
00:18:46: Aber jetzt die amerikanischen AI-Firm Entropic und OpenAI.
00:18:51: Die beiden, ich weiß nicht wer angefangen hat, einer der beiden CEOs hat dann gesagt Leute das wird mir langsam zu heiß hier wir sollten mal anfangen die AI Entwicklung langsamer zugestalten als wir es könnten um überhaupt noch quasi das im Griff zu behalten.
00:19:10: Ich glaube auch, dass es gar nicht nur darum geht wie verselbstständigt sich so eine KI sondern in welche Hände gerät KI und wie wird das genutzt.
00:19:20: also weil sie ja auch im militärischen Bereichen genutst wird.
00:19:25: Und es ist schon was anderes.
00:19:27: wenn man jetzt an Kriege denkt, wenn man noch Mensch ist der Entscheidung trifft dass er mit seinem Gewissen noch alles vereinbaren muss.
00:19:42: Oder ob da eine gewissenlose Maschine das dann irgendwann entscheidet?
00:19:47: Ja, es gibt verschiedene Problemszenarien ... Warte mal, ich muss kurz dein Mikro richten.
00:19:58: Besser!
00:19:59: Okay.
00:20:00: So.
00:20:01: Es gibt verschiedene Szenarier.
00:20:03: Es sind auch wirklich Leute, die davor waren und sich damit auskennen.
00:20:07: Und also das eine Szenario ist, wie du sagst diese ganze Technologie in die ... Hände von bösen Menschengerät, die dadurch irgendwelche Waffen bauen durch die ganze Menschheit gefährdet wird.
00:20:20: Und die andere Theorie ist aber auch wirklich dass sich die Maschinen selber so weit entwickeln und selber dann quasi der Menschheitsprobleme machen.
00:20:29: Die beiden ganz unterschiedlichen Ansichten gibt's da.
00:20:33: Irgendwie ein bekannter AI-Typ nicht das CEO, aber jemand, der verkürzend aus einem der großen Projekte ausgestiegen ist Der hat dann gesagt, es gäbe wohl eine ungefähr zehnprozentige Chance.
00:20:46: Dass diese Technologie innerhalb von zehn Jahren die ganze Menschheit ausrottet?
00:20:51: Ja!
00:20:53: Andere sagen das wird völlig überschätzt.
00:20:55: Das wollen wir auch mal dazu sagen, andere sagen es wird völlig überschätzt und dass ist einfach nur eine Technologie.
00:21:00: da ist jetzt ein Hype drum.
00:21:02: Und trotz allem ist das nicht annähernd so gefährlich wie es von anderen dargestellt wird.
00:21:08: Aber natürlich
00:21:08: weiß kein Mensch ... Wo wirklich jetzt die Wahrheit liegt?
00:21:12: Alles, was so ein Fantasien auch da ist oder überhaupt was erdacht wird, wird ja auch irgendwann mal wahr.
00:21:20: Also viele auf viele Entwicklungen, die wir heute als ganz selbstverständlich ansehen haben sich ja Menschen irgendwann mal ausgedacht und ich meine stellen mir vor man würde mit dem Smartphone ins Mittelalter gehen vorausgesetzt natürlich das funktioniert da ja nicht.
00:21:37: aber Es würde jetzt funktionieren und man wird dir das so zeigen, dass er völlig abgefahren für Menschen damals.
00:21:45: Also so was kann man sich ja auch oder konnte man sicher dann früher auch nicht vorstellen?
00:21:47: Weißt du wie ich das meine?
00:21:49: Ja natürlich!
00:21:49: Man kann es sich nie vorstellen und wir haben ja auch schon immer wieder festgestellt... Oder vielleicht habe ich das auch nur festgestellt.
00:21:57: Ich hab's aber hier auch schon mal gesagt Und ich kenne auf viele andere die das so sehen Dass das was wir in Science-Fiction Firmen erleben oftmals Jahrzehnte später in der Wörtlichkeit auch in gar nicht so doll abgewandelter Form auftritt.
00:22:12: Ja, das meine ich nämlich.
00:22:14: Irgendjemand denkt sich eher was aus und es wird dran geforscht.
00:22:17: Wenn's richtig blöd läuft ist er da!
00:22:22: Und dann muss man gucken wie geht man damit um?
00:22:25: Ich habe diese Filme weder Terminator noch iBurbert geguckt...
00:22:35: Krass, der Film musst du gucken.
00:22:37: Ich weiß was wir heute Abend gucken.
00:22:39: Doch geil!
00:22:41: I-Robot.
00:22:43: Ja, nie... Das ist ein toller
00:22:45: Film.
00:22:46: Terminator II, da muss man schon auf richtig Actionfilme stehen mit Arnie.
00:22:51: Deswegen habe ich das nie geguckt.
00:22:52: Mag ich natürlich auch geiler Film aber iRobot ist glaube ich für Leute die nicht so auf Actionfilmer stehen guter Film.
00:22:59: Ist das nicht ein Zeichentrickfilm?
00:23:01: Nein gar nicht.
00:23:02: Aber gibt es das nicht auch ein Zeichentrickfilm, iRobot?
00:23:05: Nee.
00:23:06: Das heißt glaube ich irgendwie anders nicht iRoboot.
00:23:08: Ist kein Zeichendrickfilm.
00:23:09: Es ist ein wirklich guter Film über diese ganze Thematik.
00:23:13: Welche Schauspielerspielnahme?
00:23:15: Oh Mann!
00:23:15: Du fragst mich so an ganz bekannter Schauspieler mindestens.
00:23:19: Ich weiß aber gerade nicht wie er hat.
00:23:20: Ich hab Kapsen nicht mit Namen Aber es ist wirklich ein sehenswerter Film.
00:23:23: Es ist echt mittlerweile schon älter, aber gerade unter der heutigen AI-Entwicklung
00:23:28: ... Ich bin schon
00:23:28: zwanzig Jahre alt.
00:23:29: Ja, das ist ja eigentlich noch topmodern weil's genau darum geht dass auf einmal die Roboter anfangen die Menschen in ihrer Freiheit einzuschränken.
00:23:38: Ja ich mein... Das ist ja auch dieses zwar ganz anderer Bereich, aber im Bereich von Überwachungsmöglichkeiten und so was ja schon George Orwell geschrieben hat auch zu einer Zeit wo man sich vielleicht nicht denken konnte dass das tatsächlich mal in dieser Nähe kommt.
00:23:58: Also wenn Leute das damals gelesen haben dann werden sie sich vielleicht gedacht, ja so ist ja auch nur Science Fiction alles ganz weit weg Und scheinbar findet man da ja auch schon einige Parallelen, vielleicht nicht unbedingt in unserer Gesellschaft hier im Westen.
00:24:11: Aber woanders kann man das schon sehen, dass das passiert?
00:24:15: Ja also das... Also bei uns ist es ja auf andere Art und Weise aber natürlich wir haben ja sogar eine Art freiwillige Überwachung wenn wir unsere Alexas oder unseren ganzen Assistenten, unsere Handys.
00:24:29: Wir wundern uns immer, dass wir dann fünf Minuten, nachdem wir über irgendein Thema sprechen.
00:24:36: Die passende Werbung auf dem Handy will kommen.
00:24:38: Ja klar man wird dir die ganze Zeit überall abgehört und deswegen hab ich ja werden ja auch schon ein bisschen drüber geredet als du mir dann erzählt hattest hier auch mit den humanoiden Roboter eigentlich.
00:24:49: Deswegen sage ich ja auch eigentlich freue Ich mich auch auf so eine Entwicklung weil ich freue mich auch Auf Neuerung So und erst mal der Gedanke dass es vielleicht einen Haushaltsroboter gibt Ist ja auch eine nette Idee.
00:25:04: Aber das ist ja auch so, dass der ähnlich wie eine Alexa muss eigentlich die ganze Zeit auf Empfang sein, wenn man den braucht und nicht anschalten muss.
00:25:14: Sondern dass man dann seine Namen einprogrammiert hat und wenn man denen ruft, dass er da angewatscht kommt und die Arbeiten verrichtet.
00:25:23: Also sozusagen den Auftrag annimmt.
00:25:26: Keine Ahnung, räumen bitte die Spielmaschine aus!
00:25:29: Und dann macht er das, obwohl das wär witzig.
00:25:31: Da müsste der eigentlich die Möglichkeit haben sich größer zu machen und da wird auch ein Schrank einräumen
00:25:35: können.
00:25:36: Na ja aber so...und da denke ich mir so es gibt mit Sicherheit auch auf politischer Sicht bestimmt die einen oder anderen Menschen, die sozusagen an der Macht sind, die da schon ein Interesse dran hätten mitzubekommen.
00:25:54: was bei den Leuten in den Haushalten passiert, weiß ich nicht.
00:25:58: Vielleicht ist nur ein erer Gedanke von mir.
00:26:01: aber wenn die Maschinen sowieso dann alles mitkriegen und abhören können und nicht nur auf den Namen reagieren sondern wirklich die ganze Zeit mitlaufen Dann wird es ja weit über.
00:26:13: wir wollen Werbung generieren darüber hinausgehen Und dann finde ich das eine unheimliche Geschichte irgendwie.
00:26:20: Also ich hatte Fini erzählt, also hier meinen Bekannten sagte nämlich auch.
00:26:25: Das zum Beispiel von Elon Musk schon an diesen ja, ich sage mal humanoiden Hilfsrobotan für Haushalt und dergleichen rumgeforscht wird.
00:26:36: Und da sind es jetzt gerade was weiß ich in Stufe drei oder so und wird aber noch nicht quasi der Öffentlichkeit zur Verfügung gestellt, Stufe vier oder fünf.
00:26:47: Dann ist es soweit, dass irgendwie so ein Haushaltsroboter, er hat dann mir irgendeine Zahl genannt bis zu fünfhundert oder tausend unterschiedliche Aufgaben im Haushalt übernehmen können sollte.
00:26:57: und ich habe gesagt Feli, sobald das Ding rauskommt wollen wir das haben!
00:27:02: Und da war Feli ganz skeptisch und ich war ganz enttäuscht weil Feli keine Lust hatte, dass die ganze Zeit jemand zuhört was wir hier so reden Aber wir haben nur das Zeugrede.
00:27:11: Trotzdem wollte ich nicht, dass irgendjemand anders hört und ich hatte aber Lust, dass der für uns dann uns schön Pizza kocht oder brät oder belegt.
00:27:21: Das Gemüse schneidet den Abwaschmacht.
00:27:24: Also ein Rott hat ja einfach
00:27:25: nur Gemüseschneideln.
00:27:26: Weiß ich nicht da könnte schon schwach werden
00:27:29: ne?
00:27:30: Wir würden das Ergebnis gerne jeden Tag essen.
00:27:32: Aber wer hat denn Lust, jeden Tag eine Stunde in einer Küche gemütlich
00:27:35: zu schneiden?
00:27:36: Was auch Ergebnis Essen!
00:27:38: Dafür ist der Roboter perfekt.
00:27:39: Warum wollen wir den da haben?
00:27:41: Wenn er fertig ist, kannst du noch mal kurz den Rasen mähen.
00:27:45: Ich hab grad keine Lust mehr, dass das zunachs draußen.
00:27:47: Ja ... in die Toilette putzt.
00:27:51: Dann kann er vorne das Unkraut wegrupfen!
00:27:55: Wenn er draußen ... Er kann draußen machen, was er will.
00:27:58: Ob er rennt nicht auf die Straße oder
00:28:00: ... Der wird geklaut von den anderen, die auch ihr Unkrauth weggerupft haben lassen wollen.
00:28:07: Humanoida Robata, der aussieht wie so ein Mini-Mensch.
00:28:10: Wie man die ja schon kennt aus China und so.
00:28:13: Und wieder dann mit dem Arm und Bein wackelt, weil er willig entführt wird.
00:28:18: Ja, man kaut den uns!
00:28:20: Da will er doch nur in so einen Kraut rupfen.
00:28:21: Das ist schon witzig.
00:28:26: Ja also kommt mal ne?
00:28:26: Es gibt wirklich... eine erhöhten Bedarf für einen solchen Roboter hier im Haus hat, da muss ich den noch überzeugen.
00:28:33: Dass die Überwachung nebensächlich ist.
00:28:36: Hauptsache...
00:28:37: Aber was ist dann so mit Haushaltshilfen und so?
00:28:39: Dann werden dir überflüssig!
00:28:42: Ja das ist ja immer so dass auch irgendwelche anderen Berufe wegfallen.
00:28:49: Also ich habe der schon im Studium und das ist er jetzt schon ein paar Tage her.
00:28:56: Da hatten wir eine Vorlesung, die ist Soziologie der Arbeitswelt.
00:29:01: Und da hat unsere Professorin uns ein Zeitungsartikel gezeigt aus Japan und da wurden ja schon große Roboter gezeigt, die aussahen eher wie Teddy's aber nicht so glühschig sondern wirklich dieses mechanische noch... Auf jeden Fall, dass die da in der Pflege eingesetzt werden und dann sozusagen die alten Menschen, die in der pflege sind aus dem Bett rausheben.
00:29:37: Und das wäre schon eine großartige Entlastung auch für die Pfleger weil ich glaube, dass das schon schwierig ist.
00:29:46: Ich meine es gibt wahrscheinlich schon so maschinelle Unterstützung womit man den Leuten helfen kann, dass sie irgendwie aus dem Bett gehoben werden oder so.
00:29:56: Aber in vielen Pflegeheimen glaube ich gibt's das noch nicht und dass das damals schon so gezeigt wurde.
00:30:03: Und dann natürlich ist es ja auch so an Bitterdies liegt ja auch daran, dass man im Alter häufig wieder so ein Kindliche zurück verfällt.
00:30:11: Nicht alle, aber ... Ja, ich sag mal so wenn ... Kann man sagen, wenn das Gehirn schwächer wird?
00:30:19: Ich weiß nicht, ob man das so sagen kann.
00:30:21: Wenn es nicht eine reine körperliche Alterserscheinung ist, sondern wenn das Gehirn nicht mehr mitmacht und in Richtung Demenz vielleicht geht ... Deswegen haben sie wohl dieser Form gewählt?
00:30:34: Ich weiß nie wie's heute ist!
00:30:37: Und ich stelle mir gerade vor, wenn die gerade in Japan, wenn sie dann vielleicht auch menschlichen Züge geben.
00:30:44: Ja, das ist ja noch einig... nur ganz eine Vorstuhel.
00:30:48: Wir sind ja eigentlich bei dem Thema, dass diese Maschinen irgendwann menschlicher sind als der eigentliche Mensch.
00:30:54: Deswegen überlege ich gerade wenn sie die jetzt nicht mehr aussehen lassen wie Teddy's und das offensichtliche ein Roboter ist sondern wenn die dann wirklich ausheben wie Menschen?
00:31:02: Und es geht ja um die Intelligenz und um das Verhalten und eigentlich gehts hier auch darum was alle so beschwören.
00:31:11: Ich hab mir vielleicht dem einen oder den anderen ein bisschen Angst gemacht hier.
00:31:14: Ich will mal eben kurz einen ganz anderen Standpunkt erklären dazu, den auch mein Willkantar von sich gegen ihn hat der sich wie gesagt mit all diesen Dingen intensiv beschäftigt und er hat nämlich gesagt also wenn jetzt nochmal die Entwicklung so weiter geht wie sie in den Tempo wie Sie jetzt dann im Moment bis jetzt weitergegangen ist schon Dann muss man einfach damit rechnen dass in kürzerer Zeit in paar Jahren Nennen wir es ruhig mal Wesen, intelligenter werden als wir und sogar auch mit Emotionen und sonstigen Versehen sind.
00:31:50: Aber die interessante Überlegung, die er dann angestellt hat war dass das quasi ja also das im Grunde eine weiterentwickelte Wesensform darstellen würde.
00:32:05: Er kann sich einfach nicht vorstellen, dass eine weiterentwickelte Wesensform quasi ein höher entwickeltes Wesen als der Mensch das der Böses im Sinn hat und die Menschheit auslöschen möchte.
00:32:17: Warum denn bloß?
00:32:18: Also er ist sehr fest überzeugend, wobei natürlich auch er wie niemand anders das wissen kann.
00:32:24: aber das fand ich total schön.
00:32:25: diesen Gedanken, dass besseres Wesen mit besserem Charakter und besseren Eigenschaften wird.
00:32:34: Und dass ein weiterentwickeltes Wesen der Menschheit ihr helfen würde, anstatt sie auszulöschen?
00:32:40: Weil es quasi das zum Thema oder die Weiterentwicklung bedingt, dass eine Weiterentwirkung in einem positive Richtung sich entwickelt.
00:32:50: Das wäre ein sehr schöner Gedanke wenn die Maschine erkennt okay hier läuft irgendwas nicht richtig und den Menschen hilft wieder nett zu sein.
00:33:02: Genau, das ist natürlich die Frage wie lässt sich das dann mehr oder weniger trotzdem noch irgendwie steuern?
00:33:07: Da gibt es ja auch schon jetzt Beispiele wo dann eine Idee irgendwas gut meint trotz dem Mistbau und quasi vielleicht falsche Dinge macht, die eigentlich nicht machbar sind.
00:33:21: aber trotzdem finde ich allgemein diesen Genang erstmal sehr schön dass wenn's etwas gibt was wirklich weiterentwickelt ist als der Mensch was natürlich jetzt viele für Bescheuern halten mögen, aber die Entwicklung, die da stattfindet.
00:33:34: Ich meine wenn die beiden größten CEOs ... Der eine hat gesagt, komm Leute wir müssen auf die Bremse treten sonst kommen wir doch nicht mit, sonst haben wir ein echtes Problem als gesamte Menschheit.
00:33:46: und der andere CEO sagt dann ja du bist zwar mein stärkster und schärfster Konkurrent aber ich geb dir recht wir müssen bremsen.
00:33:55: Also wenn die beiden das so sagen.
00:33:57: Und dann kommt Elon macht es noch hinterher und sagt, ihr habt recht?
00:34:01: Das geht so nicht weiter!
00:34:02: Wenn Elon das sagt, er ist ja sehr interessiert daran dass alles sich schnell weiterentwickelt.
00:34:09: Ja, guck mal, diese drei haben jetzt mehr oder weniger eingestimmt in diesen Kanon.
00:34:16: Diese ganze Entwicklung von externen Auch das muss von irgendwelchen Regierungsleuten oder von sonstigen Kommissionen überprüft und kontrolliert werden muss.
00:34:27: Also ich mein, dann ist wirklich sollte man diese Entwicklung nicht unterschätzen.
00:34:32: Ich meine jemand der CEO von solchen Unternehmen ist, der hat natürlich auch vielleicht Aktien und Geld und Finanzen für uns unvorstellbare Höhe irgendwie im Sinn und dann zu sagen hey Leute wir müssen bremsen okay Ja, das sollte mal einem schon ein bisschen zu denken geben.
00:34:51: Ist wirklich so ... ja.
00:34:55: Na auf jeden Fall!
00:34:57: Wenn man jetzt das mal nicht als absolute Utopie abtut was ich hier erzähle weil... Ich hab mir gerade gesagt wenn die beiden das so sagen dann muss man färblich schon mal ein bisschen denken.
00:35:08: aha dass ist vorwürdig.
00:35:09: eine vernammten Steineentwicklung.
00:35:11: ja dann kann man vielleicht wirklich irgendwann davon ausgehen dass es irgendetwas gibt was weiterentwickelt ist als wir.
00:35:19: Und wie gehen wir dann damit um?
00:35:22: Und hoffen, dass das wirklich so ist, dass dieses Weiterentwickelte sich für uns einsetzt und mit uns zusammen, vielleicht wieder etwas ja auch nicht schaden könnte diese Welt zu einem besseren Ort macht!
00:35:35: Das
00:35:35: kann man nur hoffen.
00:35:36: aber ich finde es irgendwie auch krass und ich find's auch erschreckend wenn man wirklich das was uns menschlich macht Wenn man das jetzt auch noch in Maschinen packt und ja, also dieses wirklich... ...dieses über Emotion und Gefühle Entscheidungen treffen.
00:35:56: Und was sind wir denn noch?
00:35:58: Dann sind wir wirklich nur noch Fleischblutknochen.
00:36:02: Keine Ahnung!
00:36:03: Das ist dann nur noch das, was Mensch ist und alles andere ist dann Austauschbarer oder wie.
00:36:09: Also das finde ich schon... Da bin ich nun nicht ganz so offen für.
00:36:15: Ich habe allerdings die KI gefragt,
00:36:17: wie
00:36:18: die Zukunft aussehen könnte.
00:36:20: Wie die Einschätzung der KI über die KI ist.
00:36:24: Das ist auch interessant!
00:36:25: Und soll ich mal sagen, wie der das mal einschätzt?
00:36:30: Also sagt es zwanzig sechsundzwanzig bis achtundzwantzig.
00:36:33: Fabriken Lager Logistik einfach standardisierte Aufgaben und das ist ja auch das was man ja schon sieht.
00:36:41: also ein riesigen Unternehmen der wird ja auch viel über KI gemacht die einige Sachen erkennt und in ihren Prozessen einpflegt, und danach arbeitet.
00:36:51: Also die dann bestimmte Dinge erkennen okay ich kriege jetzt diese Schraube, ich bring das jetzt da rüber und dann wird das da eingebaut oder so.
00:37:00: Darf ich mal kurz einen Beispiel erzählen wie weit es schon ist?
00:37:05: Es gibt auch schon Firmen, die haben ... Ich weiß nicht, so fünfzig oder sechzig Mitarbeiter.
00:37:12: Und von diesen fünfzig bis sechszig Mitarbeitern nennen wir mal sagen wir mal fünfzig sind vierzig Mitarbeiter, reine KI-Mitarbeiter.
00:37:20: Und zehn Mitarbeiter sind noch menschlich ... Wie jetzt
00:37:23: ein Roboter?
00:37:23: Wie diesen Arm und
00:37:24: so.
00:37:24: Nee nicht nur das auch einfach.
00:37:26: Computer.
00:37:27: Computer quasi so im fortgeschrittenen Rahmen so Chatchi Pity Instanzen.
00:37:33: Dann handeln Firmen das so, dass sie wirklich diese künstlichen Intelligenz mit Namen, mit Bildern... und mit einer Persönlichkeit ausstanden.
00:37:46: Ein Avatar, oder?
00:37:47: Sowas
00:37:47: in der Art.
00:37:49: Und dann geht es soweit, dass diese künstlichen Intelligenzen andere KIs interviewen als Vorstellungsgespräche und ob sie die einstellen usw.
00:37:59: Wie
00:37:59: KI?
00:38:00: Interviewed KI!
00:38:03: Genau, ob diese andere KI ...
00:38:04: Hast du das denn gelesen?
00:38:06: Ja, hat er mir auch erzählt.
00:38:09: Ich hab's dann noch mal in so einem Podcast quasi gehört Wo dann wirklich Firmen dann erzählen sogar in deutscher war das hier eine deutsche firma denn der dass soweit schon ist Und wo dann ne k.i quasi die ganze quasi die ganzen social media arbeit übernimmt Natürlich nach irgendwelchen richtlinien.
00:38:32: aber das interessante war ich habe es in einer podcast dauerte übrigens zwei stunden das habe ich mir jetzt nicht ganz angehört Aber so ein paar ausschnitte daraus.
00:38:39: und das interessante war wirklich, dass die als Menschen vielleicht nicht, aber als Mitarbeiter wirklich angesehen werden.
00:38:48: Nicht nur als Maschinen und dass die Menschen quasi noch dazu da sind ... Also jeder Mensch ist dann in der Führungsebene.
00:38:57: Und die sind auf der unteren Ebene und sind die normalen Angestellten.
00:39:01: Verrückt!
00:39:02: Das ist total verrückt.
00:39:03: Wie ist das mit dem Arbeitsschutz bei KI?
00:39:05: Ja, das ist dann die Frage.
00:39:07: Da muss man warten, bis sich die KI eine Gewerkschaft gegründet hat.
00:39:10: Oh mein Gott... Das ist keine ... das klingt vielleicht, wir stehen jetzt denken alle Leute.
00:39:17: Da hat der zu viel ...
00:39:19: Kleiner wird zu viel geraucht?
00:39:20: Genau!
00:39:20: Sagst du wie es
00:39:21: ist?!
00:39:22: Nee, hab ich so gehört von ihm und gehört im Podcast.
00:39:26: Und ja nur weil wir das uns nicht vorstellen können heißt das ja nicht dass andere Leute und Firmen das alles schon in die Tat umsetzen und KIs nutzen einem anderen KIs einzustellen und zu überwachen.
00:39:43: Das ist wirklich ein bisschen schräg, auch mir sind und ich gibts so dass es selbst mir ein bisschen unheimlich.
00:39:49: Ja das ist wirklich thanks fiction.
00:39:51: also wow!
00:39:54: Wir sind jetzt bei ...
00:39:54: Jetzt geht's mal wieder zu dem, was du rausgefunden hast.
00:39:58: Was die Zukunftsvision von
00:40:00: Karin sagt und sich Karin entwickeln wird.
00:40:11: Ja also immer noch da auf dem Bereich es hilft im Fabriken mit aber entscheidet anscheinend also Autonomer.
00:40:22: Man muss wahrscheinlich nicht mehr so viele Menschen damit hinstellen, die das kontrollieren vielleicht.
00:40:29: Und das klingt für mich
00:40:29: noch eine Aufgabe?
00:40:31: Für mich auf jeden Fall, ich sage mal... Das wird alles viel mehr und viel schneller gehen glaube ich.
00:40:39: Wie geht es weiter?
00:40:41: Zwanzig dreißiger also wenn man guckt der nächste Schritt ist zwanzig fünfunddreißig also so bis zwanzichvierunddreißig erste wirklich vielseitige Roboter als Arbeitskollegen.
00:40:56: Okay!
00:40:56: So, also dann schließt du am Band und hast da noch ... dein
00:41:01: Robi neben mir?
00:41:02: Ja.
00:41:04: Zwarzigfünfundreißig bis zwanzigfünftvierzig möglicherweise brauchbare Haushaltsroboter für viele alltägliche Aufgaben.
00:41:13: Und das wäre ja... Wie lange müssen
00:41:14: wir noch warten
00:41:15: mit unseren Gemüse?
00:41:15: Also fast zehn bis zwantzig Jahre noch.
00:41:18: Ach, das ist sehr enttäuschend.
00:41:19: Ich glaube auch nicht.
00:41:21: Das wird schneller passieren.
00:41:22: Aber vielleicht will, schät mich jetzt hier auch nicht beunruhigen.
00:41:27: Vielleicht hört er ja auch mit, wer weiß das alle schon?
00:41:30: Und danach sagt er selber schwer vorher zu sagen ... Hier wird aus Technik zunehmend Gesellschaftspolitik.
00:41:38: Aha!
00:41:39: Ja wie du schon sagst ist schlecht gründen die auch eine Partei und nicht nur eine Gewerkschaft.
00:41:42: Eine Partei?
00:41:43: Das geht natürlich auch noch.
00:41:45: Viel wahrscheinlicher ist es zunächst also... Die werden erst mal in Fabriken eingesetzt Dann für Lagertätigkeiten, obwohl da ist ja KI schon unterwegs.
00:41:53: Also den großen Unternehmen auch Amazon und so.
00:41:57: Ich glaub die arbeiten ja auch schon viel also auf jeden Fall Computer unterstützt Und da sind ja auch ... Die sind ja drauf und dran immer weniger Personal tatsächlich dahin zu stellen.
00:42:09: Und dann was ich ja auch gesagt hatte in Krankenhausen Pflegeunterstützung.
00:42:13: Da finde ich das absolut gerade, wenn man das anguckt mit unseren demografischen Wandeln.
00:42:18: Mit unserer politischen Lage und Menschen werden immer älter usw.
00:42:22: Und sofort finde ich dass es da super wäre würde man sich darauf konzentrieren, dass man KI vor allem dafür entwickelt und da auch einsetzt.
00:42:33: Ja wobei ist also KI ja?
00:42:36: nun also da ist ja nur die Besonderheit, dass da möglicherweise eigenständige Entscheidungen getroffen werden.
00:42:43: das ist ja noch was anderes, ob ich jetzt eine KI habe oder einen Roboter der mehr oder weniger ohne eigenes Bewusstsein einfach nur gewisse Tätigkeiten aussieht.
00:42:50: Hier geht es einfach um die humanoiden Roboter.
00:42:53: da hatten wir ja vorher drüber gesprochen wie weit sie dann auch selber Entscheidungen treffen.
00:42:59: also darum geht's hier jetzt gerade nicht?
00:43:01: Da müsstest du den Chat vielleicht nochmal fragen oder weil das ist Das ist ja eigentlich doch fast ein anderes Thema.
00:43:09: Das kommt dann vielleicht irgendwann zusammen, wenn da die humanoiden Roboter mit dieser KI ausgestattet sind was sie ja schon zum Teil werden und... Ja, dann müssen wir vielleicht noch mal ...
00:43:18: Müssten wir eine neue Folge zu
00:43:20: machen.
00:43:21: Was er dazu meint?
00:43:22: Ich bin noch nicht fertig.
00:43:23: danach im Hotel um Gastronomie und das find ich schon witzig.
00:43:27: es gibt ja in einigen Hotels und in der Gastro schon die Unterstützung von so kleinen Service-Hilfen, die dann, hast du nicht gesehen, diese kleinen Roboter mit denen war, wo du deinen Tablett drauf abstellen kannst also dieses Gändern und weiß ich nicht ob die Tüsche leer sind oder ob da noch was steht und die bleiben dann dastehen Also können das selber noch nicht abräumen, aber sie fahren dann da schon rum und unterstützen im Prinzip die Serviceleute.
00:43:56: Dann soll es in die öffentliche Infrastruktur und dann im Haushalt also dass das dann so privatisiert eingesetzt werden kann, dass die Leute zu Hause ihre Roboter haben.
00:44:07: ich meine der Anfang ist ja schon gemacht mit unseren Saug- und Wischrobotern der heute den Geist aufgegeben hat.
00:44:13: Und mit dem hier Mehrrobotan und so, also es ist ja schon ein bisschen in Gang ... was jetzt nicht wirklich KI-ist finde ich, sondern einfach eine technologische Weiterentwicklung von Haushaltsgeräten?
00:44:26: Ja, das ist doch ja ein bisschen anderes Thema sogar!
00:44:35: Es gibt ja unheimlich viele Videos auch im Umlauf, die kann man sich ja auch anschauen.
00:44:40: Ich habe jetzt zum Beispiel einen Video gesehen Wo man ja heute auch nicht immer hundert Prozent weiß, ob das ein nachgestelltes Video ist.
00:44:47: Durch KI zum Beispiel generiert oder ob es tatsächlich so ist.
00:44:50: Da hatte ich jetzt gerade eins gesehen ... Das war in China?
00:44:55: Sag mal, China!
00:44:57: Ich hoffe nicht, dass man sagt, ich sage immer, ich bin
00:45:00: China.
00:45:00: China wie auch immer, ihr wisst was wir meinen.
00:45:03: Da war in einem ... Supermarkt war's nicht, aber irgendwie ein Geschäft Und da war so ein humanoider Roboter, der da irgendwie rumstand und dann hat er sich nicht mehr bewegt.
00:45:16: Dann hat einer dem Roboter auf die Schulter gefasst, den Finger an Karate-Move zu machen und auszutreten und ist völlig durchgedreht!
00:45:25: Das ist natürlich das, wo man ja Angst vorhat, dass sie völlig die Kontrolle verlieren ... Ja, die Menschen angreifen jetzt hier sogar tätig angreifend und nicht nur ... über Daten oder sonst irgendwas, sondern wirklich dann auch so körperlich werden.
00:45:43: Und ja das sind halt diese ganzen Sachen wo die Menschen hier auch drüber nachdenken denke ich mal.
00:45:51: Klar man hört auch in irgendwelchen Umfragen dass dann ein zunehmend größer werdender Teil der Bevölkerung, dass dir das langsam so ein bisschen skeptisch, dass sie skeptisch werden, dass den das Gummisch vorkommt und jetzt nicht nur aus Angst Einfach vor Jobverlust, weil irgendwelche Berufe von KI übernommen werden.
00:46:12: Was ja auch schon längst der Fall ist und ... Sondern auch ... Naja, diese Sache halt das die KI so intelligent wird?
00:46:21: Dass sie uns irgendwie dann sagt was wir zu tun oder zu lassen haben.
00:46:25: Das haben wir wohl zunehmend die Leute Angst vor.
00:46:29: Ja, hoffen wir mal dass die Vision von meinem Bekannten richtig ist.
00:46:33: Dass dann
00:46:34: die
00:46:34: AI uns weiterhilft zu besseren Menschen
00:46:38: machen.
00:46:38: Da muss man die AI mit Liebe füttern!
00:46:41: Das ist auch ganz wichtig, dass man auf jeden Fall seine AI gut behandelt.
00:46:47: Immer bitte und danke sagen hier noch... Da gibt
00:46:50: es auch Studien, habe ich auch schon gehört und gelesen.
00:46:55: also das gibt ja Leute, die behandeln ihre KI eher wie so eine menschliche Person und andere behandeln ihre KI eher wie so ein Untergeben.
00:47:04: Und meckern den auch mal an oder ... Los,
00:47:07: rechne aus!
00:47:09: Oder sagen, wieso hast du das denn nicht richtig gemacht?
00:47:11: Du kannst ja gar nix oder sowas, ne?
00:47:12: Also es gibt ja auch Leute die sind einfach ätzend und lassen das dann an der KI aus.
00:47:19: Bei der KI ist ja immer dann die Sache dass man nennt's ja die Halluziniert also die macht irgendwelche Fehler und macht dummes Zeug gewissermaßen.
00:47:27: Und bei denen Leuten wo die KI von denen die KI quasi sehr gut behandelt wird, passiert das deutlich weniger.
00:47:36: Und wenn du die KI jeweils missbehandelst dann haltet sie nicht auch dauernd und macht wirklich auch keinen guten Job.
00:47:42: Ich
00:47:43: streite manchmal mein Chat GPT.
00:47:45: Ja man kann ja streiten und diskutieren aber man muss ich sage mal fair und menschlich bleiben!
00:47:52: Und nicht sagen hey du kannst ja gar nix
00:47:54: tun.
00:47:54: Nee das mache ich nicht.
00:47:56: Aber dass ich sage nee das ist nicht richtig
00:47:59: Das ist ja voll legitim, finde ich.
00:48:04: Ist spannend oder?
00:48:05: Das ist
00:48:05: ein bisschen lustig weil manchmal erzähle ich dir das ja dann sag ich du hier und teilt mich gerade mit Chat... ...das stimmt nicht was der sagt!
00:48:13: Ja, aber man kann ja auch nie alles wissen.
00:48:15: Du sagt er dann auch mal.
00:48:17: Also er sagt dann ja du hast recht da muss ich nochmal das korrigieren bla bla bla.
00:48:23: So also er will einem ja auch gefallen.
00:48:24: Also das ist ja schon sehr gefällig.
00:48:27: Ja das merkt man immer wieder Für mich ist es schon zu viel.
00:48:34: Wir nutzen ja Chat auch, damit er uns weiterhilft
00:48:37: z.B.,
00:48:38: wenn wir Fragen zu originalem Englisch haben und wie würde das einen Text anerwohl formulieren oder so?
00:48:45: Und wenn er dann immer quasi nicht sich traut zu sagen die Formulierung, die würde kein Amerikaner so sagen, dann ist uns hier auch nicht geholfen.
00:48:56: So sagt das ein Amerikaner nicht.
00:48:58: Und
00:48:58: wenn der dann erst sagt, nachdem du inkorriert hast ... Ja, du hast recht?
00:49:03: Ja genau!
00:49:05: Also mein Chat dürfte ruhig ein bisschen weniger zurückhalten mit mir umgehen und lieber sagen, ey, du, dass es so einfach nicht richtig hat müssen wir anders machen.
00:49:17: Ja.
00:49:18: Finde ich.
00:49:19: Nach was beunruhigen des... Oh nein.
00:49:22: Hier heißt das Entropic.
00:49:24: Entropic?
00:49:24: Entropic
00:49:26: hat gerade ein Bericht veröffentlicht, wonach seine Modelle in realen Missbrauchs-Fan unter anderem für Cyberangriffe Angriffe Überwachung Betrug Einflussoperation sowie biologische und konventionelle Waffenentwicklung missbraucht.
00:49:42: Ja das habe ich auch schon gelesen.
00:49:43: Und
00:49:45: ja dass es ja auch.
00:49:46: also die KI ist ja an sich nicht böse so wie auch allen Menschen ja an Sicht nicht bösen ist.
00:49:51: aber Wenn so eine KI-Leistungsfähiger wird und in die falschen Hände gerät, dann wird sie auch dafür missbraucht werden.
00:50:02: Ganz klare Sache!
00:50:04: Auf jeden Fall das ist genau das Problem wenn die KI nicht selber dann quasi irgendwelche dummen Dinge anstellt was auch passieren kann selbst wenn es da nur aus Missverstandenem Ehrgeiz der KI passiert.
00:50:18: Klar, es gibt... Seien wir mal ehrlich.
00:50:20: Es gibt auch viele Menschen die sind wirklich böse und wenn sie dann sowas nutzen, klar!
00:50:26: Dann kommt ganz Schlimmes dabei raus.
00:50:28: Also man kriegt ja schon die Intelligenz da rein in diese Maschinen.
00:50:34: Und wenn du sagst auch noch die Emotionalintelligenz das machen wir auch Bauchschmerzen Aber
00:50:39: ich musste das gar nicht.
00:50:41: In der Forschung sozusagen, dass die damit daran forschen.
00:50:46: Also diese Sensitivität auch so.
00:50:48: wie gehe ich als Maschine mit Menschen um dieses Feingefühl, die Empathie da wirklich zu entwickeln.
00:50:57: und deswegen das was die Großen jetzt machen müssen ist wirklich das ganze kontrollierbar zu halten, Humanoide, Roboter.
00:51:08: Alles was mit dieser ganzen verrückten, ich finde immer noch Science-Fiction Welt zu tun hat.
00:51:16: Dass das noch beherrschbar bleibt, kontrollierbar bleibt.
00:51:20: und dann ist es natürlich auch die Frage wer hat den absoluten Zugang dazu?
00:51:28: Also dass das so ... In den Händen bleibt von den Entwicklern, die ja Gutes damit im Sinn haben.
00:51:35: Nämlich der Menschheit damit zu bereichern.
00:51:41: Weil diese Entwicklung kann eine unglaubliche Bereicherung auch sein für Menschen.
00:51:46: Technologien haben eigentlich immer dazu beigetragen, dass sich Menschen weiterentwickeln konnten und ... Dass das beherrschbar bleibt.
00:51:55: Das ist das große Thema, wo die sich auseinandersetzen müssen.
00:51:59: Dass es nicht missbraucht wird oder dass es überhaupt die Möglichkeit gibt, Technologien zu missbrauchen und dass da irgendwas eingebaut wird was dann wie so ein Schutzwahl wirkt, was man nicht einfach enthebeln kann.
00:52:14: Also diese ganzen ... Schlimmzenarien, die man daraus entwickeln kann, dass sie gar nicht eintreten können dass es einfach unmöglich ist.
00:52:24: Dafür wurden ja bei iRomant die drei Roboter-Gesetze erfunden.
00:52:28: Aha, die sind?
00:52:30: Das erzähl ich dir jetzt nicht, da müssen wir den Film gucken.
00:52:35: Wahrscheinlich, dass sie nicht gegen Menschen vorgehen dürfen.
00:52:39: Natürlich hat das Grundlage der drei Robotagesetze...
00:52:44: Dass sie auch gegenseitig nichts platt machen dürfen!
00:52:47: Und ich sag, ihr habt den Film schon zehn Jahre oder so nicht gesehen.
00:52:50: Ich hab jetzt den Wort laut der drei Roboter-Gesetze nicht im Kopf.
00:52:53: Das heißt wir müssen gleich den Film gucken?
00:52:55: Okay
00:52:56: ... Feli ist richtig begeistert!
00:53:03: Ja,
00:53:03: Feli...
00:53:04: Was haben wir denn überhaupt gelernt?
00:53:05: Wir haben ja ein bisschen drumherum erzählt, ne?
00:53:09: Müssten wir immer was, denn wir sind hier noch nicht in der Schule.
00:53:11: Feli du hast jetzt keine Schule.
00:53:12: Wir haben Bildungsauftrag.
00:53:14: Nee, hast du nicht.
00:53:17: Stimmt, wir plaudern ja auch manchmal einfach Nummer.
00:53:20: Ja und wir können noch einfach über diese Dinge plauderen ohne dass wir dann gleich eine Löhne... Du möchtest das kenn ich schon immer eine Lösung präsentieren.
00:53:29: Du wirst ja aber den Männern vor, dass Männer immer Lösungen präsendieren wollen.
00:53:34: Das werfe ich nicht, ihr Männer tickt so
00:53:39: Gebe mich dir recht
00:53:40: Wenn wir einfach uns nur auslabern wollen, weil der Tag einfach befissen macht und man möchte einfach noch mal jemanden das erzählen.
00:53:47: Dann wollt jemand gleich eine Lösung
00:53:48: geben?
00:53:48: Natürlich!
00:53:49: Das bringt auch nichts wenn man das einfach hört und dann passiert nix.
00:53:52: Wir müssen eine Lösung finden.
00:53:54: Wir haben ein Problem für brauchen eine Lösung.
00:53:58: Aber hier bei uns im Podcast darf es zu immer drauf aus da noch eine Lösung zu präsentieren.
00:54:05: Ich möchte ein Fazit.
00:54:07: Was nehmen wir denn jetzt mit aus unserer Stunde?
00:54:09: Oder wie lang reden wir schon?
00:54:11: Ja, noch nicht gar, das war fast!
00:54:13: Ja... was nimmst du denn jetzt für dich mit?
00:54:15: Also ich würde sagen abwarten und Tee trinken, sonst haben wir den Salat.
00:54:20: Das ist ein wirklich gutes Fazit, es könnten mir fast bei jeder Folge wohl am Schluss dann sagen.
00:54:25: Habt mal abwas passiert.
00:54:27: Es wird alles gut, also ich finde ... Kumpel oder wer auch immer mit dir darüber geredet hat und sagt, dass das eigentlich die Menschheit besser machen könnte.
00:54:37: Friedlicher sogar!
00:54:38: Das wäre ein Träumchen und den Gedanken finde ich sehr schön.
00:54:43: Finde ich auch.
00:54:43: Können wir damit noch abschließen?
00:54:45: Dass wir sagen wenn es irgendwann eine Spezies gibt, die weiterentwickelt ist als der Mensch dann muss sie zwangsläufig eine gute Spezie sein mit einem guten quasi Charakter, wenn man's so will denn eine Weiterentwicklung bedeutet ja nun mal, sich zu verbessern.
00:55:02: Also ich glaube nicht ... Da bin ich auch ganz bei ihm, dass eine Weiterentwicklung bedeutet, dass alle schlechter werden und sich gegenseitig irgendwie was weiß ich, was böse ist wollen?
00:55:12: Das wäre ja keine Weiterentwirkung!
00:55:14: Jaaa!
00:55:16: Aber
00:55:16: manche Sachen entwickeln sich in die verkehrte Richtung und machen es schlimmer...
00:55:21: aber wir reden jetzt von Maschinen, Strickstrichwesen weit uns überlegen sind, was die ganzen Denkprozesse angeht.
00:55:32: Dass sie dann auch schon feststellen ja warum oder was soll das denn wenn man sich jetzt gegenseitig hier im Weg steht?
00:55:40: Genau
00:55:41: also Was uns Menschen ja auch ausmacht ist ja die Gier Die eine Tutsinde ist glaube ich aber eher wie in den menschen nicht in jedem Aber in Menschen verankert ist und dadurch passiert ja auch viel Schlimmes.
00:55:58: Und so ein Roboter ist zum Beispiel sowas wie Geld, wahrscheinlich total Wumpe.
00:56:04: Wenn der nicht gesteuert wird von jemanden, der interessiert es an Geld und macht ...
00:56:09: Aber quasi einen Roboter, also eine AI meinst du die ist ja soweit entwickelt dass irgendein Mensch gar nicht mehr in der Lage ist sie zu steuern.
00:56:19: das ist ja das was möglicherweise passieren könnte.
00:56:24: andere sagen Das wird völlig überschätzt, das wird nie passieren.
00:56:27: Das wissen wir natürlich nicht.
00:56:29: Aber ich glaube schon selbst mit unseren Erfahrungen mit ChatGPD die ja auf unterstem Level sich abspielen oder ich lass manchmal mir so kleine Sachen programmieren und es ist erstaunlich wie gut das funktioniert aber das ist ja überhaupt nicht vergleichbar mit dem was diese ganzen Kis schon für Fähigkeiten überhaupt haben.
00:56:49: Ja wenn sie so weiter sich entwickeln dann kann das der Menschen nicht mehr kontrollieren.
00:56:54: Das ist ja genau die Frage, vor die wir stehen.
00:56:56: und wenn sich etwas weiterentwickelt also wenn man die Entwicklung der Menschen sich so anguckt über den letzten vielleicht paar tausend Jahre klar haben die Menschen in jedem Jahrhundert echt unfassbar viel Mist gebaut.
00:57:11: aber ich glaube insgesamt haben sich die Menschen schon in ihrer Entwicklung ein bisschen verbessert oder?
00:57:17: Ich glaube sie bauen... Oder wenn man sich überlegt was es früher für Unfassbare Grausamkeiten gab.
00:57:25: Die gibt's natürlich immer noch, aber ich hab das Gefühl, dass es insgesamt weniger wird und dass wir als Menschen uns insgesamt schon weiterentwickeln.
00:57:33: Und wenn man dann noch weiterspint und sich die KI, die AI, noch weiterentwickelt ... Dann können wir noch wirklich hoffen, dass auf Grausamtigkeiten völlig verzichtet wird und die KI einfach versucht, dass für alle hier auf der Welt ein schönes Leben möglich ist.
00:57:51: Ich liebe da ein Optimismus?
00:57:53: Ja!
00:57:54: So muss es sein.
00:57:55: Das
00:57:55: finde ich sehr schön, Ich will da nichts mehr zu sagen!
00:57:58: Das ist gut Feli!
00:57:58: Ich
00:57:59: warte ab und freue mich wenn die KI das schafft unser Leben lebenswerter und schöner macht.
00:58:08: Wenn sie das kriegt...
00:58:10: So wird's eintreten.
00:58:11: Das haben wir jetzt einfach hier ins Fazit
00:58:13: uns überlegt.
00:58:14: Wort zum Sonntag!
00:58:15: Genau!
00:58:16: Alles klar!
00:58:17: Und was machen wir jetzt?
00:58:21: Wir gucken jetzt
00:58:21: High Robot.
00:58:22: Nein, machen wir nicht!
00:58:23: Ich hab noch was zu tun.
00:58:25: Ach das kann doch... Das ist
00:58:26: ganz wichtig.
00:58:28: Das ist ein aktuelles Thema und wir müssen uns darüber informieren.
00:58:31: Die drei Roboter Gesetze.
00:58:34: Kann ich auch mal eben googeln?
00:58:36: Nee, das machst du nicht.
00:58:39: Dann verbaust du dir einen wirklich spannenden Film über dieses Thema.
00:58:44: Was würdest Du den Zuhörerinnen denn sagen, was sie für uns tun
00:58:48: können?!
00:58:49: Für uns könnten Sie klicken.
00:58:52: Beten!
00:58:53: Das auch?
00:58:56: In seinem Blick war gerade cool.
00:58:59: Liken,
00:59:00: abonnieren.
00:59:02: Danke schön.
00:59:03: Bitte
00:59:03: schön.
00:59:03: Das hilft uns nämlich weiter etwas Reichweite zu generieren und es kostet euch gar nichts.
00:59:10: Nee, ganz im Gegenteil.
00:59:11: Das macht euch gute Laune.
00:59:12: Wenn ihr wisst, dass uns das gute Laude macht!
00:59:14: Und schreibt uns gerne... Ihr könnt in den Show notes mal gucken wo ihr uns überall erreichen könnt und wo ihr noch mehr Sachen erfahren könnt was uns so durchm
00:59:24: Kopf
00:59:25: schwört was wir alle schon so rausgebracht haben.
00:59:28: und dann seid gerne wieder nächste Woche dabei!
00:59:36: Durchwohl und bis zum nächsten Mal tschüss.
Neuer Kommentar