-
Frage gestellt bank21app am 17 Mrz 2023. Diese Frage wurde auch von been21awe, date21awe, arms21apt, kyak21add, busy21add, must21add, gars21add gestellt.
-
Karsten Weber Beantwortet am 17 Mrz 2023:
Hallo Nick, es sind Menschen, die KI einsetzen, um bestimmte Ziele zu erreichen. KI ist dabei ein Werkzeug. Es wird also davon abhängen, welche Ziele sich Menschen setzten, wenn sie KI nutzen. Ich glaube nicht, dass KI selbst aus eigenem Antrieb, die Welt erobern wird.
-
-
Tobias Frühmorgen Beantwortet am 17 Mrz 2023:
hallo Nick. Das ist nicht sehr wahrscheinlich. Dazu müsste die Machine (also die KI) erstmal den Wunsch haben, unsere Welt zu erobern. Und solange wir ihn den nicht einprogrammieren, hat sie ihn nicht. Außerdem müsste die Maschine ein Bewusstsein entwickeln (denn nur dann kann man Wünsche haben), und soweit wir wissen, gibt es kein Bewusstsein ohne einen (menschlichen) Körper aus Fleisch und Blut und Zellen und Nerven und allem, was dazu gehört.
-
Dietmar Kammerer Beantwortet am 17 Mrz 2023: last edited 17 Mrz 2023 3:23 pm
Hallo Nick, wie die anderen bereits geschrieben haben, wird es keine KI geben, die den „Wunsch“ verspürt, unsere Welt zu „erobern“ (und dabei, wie im Film, auch noch ständig darüber redet. „Ha! Jetzt erobere ich euch! Ihr seid mir untertan! Ich bin mächtiger als ihr!“ und so weiter.)(Ich frage ich immer, was die anderen KI-Maschinen davon halten würden, die es ja auch noch gibt. Kommt es zu einem Kampf zwischen denen? Was, wenn jemand den Stecker zieht?)
Allerdings: Wir könnte sagen, dass „die Welt erobern“ bedeutet: „Etwas ist überall auf der Welt vorhanden und bestimmt dort (fast) allen Bereiche des Lebens – Schule, Arbeit, Freizeit, Einkaufen usw.“ Dann hat „die Technik“ längst unsere Welt „erobert“, mit oder ohne KI.
(In einem Kommentar unten gebe ich noch eine andere Anwort.)
-
Josefine Honke Beantwortet am 19 Mrz 2023:
Hallo Nick,
danke für deine Frage! Zu den bereits sehr tollen Antworten möchte ich noch hinzufügen, dass du von „der“ KI sprichst, also von der Vorstellung, dass es „die“ eine, große Künstliche Intelligenz gibt.Wie Dietmar bereits geschrieben hat, ist das jedoch eine Vorstellung, die wir aus Filmen und anderen Medien kennen. Solche Vorstellungen helfen uns dabei, so komplizierte Systeme wie KIs einfacher zu verstehen und Bedrohungen überzeugend darzustellen. Es ist jedoch wichtig zu erkennen, dass sie vereinfacht werden müssen, damit daraus eine Geschichte im Film entsteht, die einen Anfang und ein Ende hat. Was denkst du: Was sollen wir aus Filmen lernen, in welchen eine KI die Welt erobert?
Und wie du auch siehst: Wo viele Wissenschaftler:innen zusammen kommen, gibt es auch viele verschiedene Ansätze, um Fragen zu beantworten! 🙂
-
Matthias Braun Beantwortet am 19 Mrz 2023:
ich würde sagen: Das tut sie schon an vielen Stellen. Wir nutzen KI zur Unterstützung bei der Entscheidungsfindung in der Klinik, KI „entscheidet“ wer einen Kredit bekommt und wer nicht. KI designt Proteinstrukturen und hilft Medikamente zu entwickeln und verbessern. Also wenn erobern heißt, dass sie im Leben vieler Menschen eine Rolle spielt (So habe ich das „erobern“ verstanden), dann würde ich schon sagen, dass unsere Welt heute ohne KI kaum noch vorstellbar ist.
-
Jun Zhang Beantwortet am 20 Mrz 2023:
Lieber Nick. Nach der derzeitigen Entwicklung der KI-Technologie zu urteilen, ist sie weit davon entfernt, selbstbewusst und rebellisch zu sein. Aber wir können nicht leugnen, dass dies in Zukunft nicht der Fall sein wird. Um dieses Szenario zu vermeiden, müssen KI-Entwickler und -Forscher ethischen Aspekten besondere Aufmerksamkeit widmen, z. B. der Frage, wie der Missbrauch von KI vermieden werden kann oder wie die Beziehung zwischen Mensch und KI entschärft werden kann. Die Entwicklung der KI-Technologie ist zwar wichtig, aber es ist auch wichtig, sich auf die Kommunikation und interdisziplinäre Zusammenarbeit mit den Geisteswissenschaften zu konzentrieren, damit wir die Entwicklung der Technologie im Dienste unserer Gesellschaft maximieren können.
Kommentare
Dietmar commented on :
Lieber Nick, eine Rückfrage:
In einem anderen Chat habe ich über den Film „Colossus – Das Forbin Projekt“ aus dem Jahr 1970 geschrieben. Darin verbünden sich zwei „elektronische Gehirne“ (so nannte man das damals) miteinander, um die Menschheit zu unterwerfen.
Aus Sicht der Maschinen ging es freilich darum, die Menschheit zu retten: Damals herrschte der so genannte „Kalte Krieg“ zwischen den USA und der Sowetunion und viele Menschen hatten die bereichtigte Angst, ein Atomkrieg könnte alles Leben auf der Erde vernichten. Diese Angst greift der Film auf. Die Computer sagen: Wir beherrschen euch ab sofort, denn ihr würdet euch nur gegenseitig umbringen. Also retten wir euch eigentlich.
Was meinst du dazu? Würdest du dich einer KI unterwerfen, wenn sie dein Leben rettet? Was meinen deine Freunde dazu? Oder würdet ihr Widerstand leisten?
Karsten commented on :
Das Stichwort „Widerstand“ ist hier ganz wichtig: Insbesondere bei den Terminator-Filmen sollte man bedanken, dass sich darin eine Reihe von Themen wiederfinden, die nichts mit Technik zu tun haben, sondern Spezifika der US-amerikanischen Politik behandeln: Es geht um das Recht Waffen zu tragen, um die immer noch nicht überwundene Spaltung von Nord- und Südstaaten, um die Diskussion von Big und Small Government. Die Terminatoren kommen aus dem Norden (wird in „Salvation“ explizit so formuliert) und repräsentieren Big Government, das sich in das Leben und die Rechte der Bürger*innen einmischt, die dagegen militanten Widerstand leisten.
Was will ich damit sagen? In den meisten dieser Filme geht es nur vordergründig um Technik, tatsächlich aber um soziale Verhältnisse zwischen Menschen.
ohlsenm23 commented on :
Hallo Tobias und Karsten, wie steht ihr denn zu dem „alignment problem“? Dass also künstliche Intelligenzen, die allgemeine Fähigkeiten haben (AGI) und sich selbst verbessern können, in der Lage sind alle gesteckten Ziele zu erreichen und dass es ganz schwierig, wenn nicht sogar unmöglich ist, alle Eventualitäten mit einzubeziehen (paperclip maximizer). Dass es also nicht darum geht, dass KIs plötzlich „böse Absichten“ bekommen, sondern dass sie so mächtig sind, dass ihre Art der zielführenden Aktionen unseren Bedürfnissen nicht gerecht wird. Immerhin haben wir schon Algorithmen in social media, die zum Ziel haben uns möglichst lange am Bildschirm zu halten und als Nebenprodukt unsere Psyche verändern, damit eher unser Hirnstamm angesprochen wird und wir immer aufrührerische und spaltendere Inhalte sehen wollen.
Karsten commented on :
Wie schon in der Antwort von Tobias Frühmorgen gesagt: KI mit Wünschen, Motiven und Intentionen sind etwas, was derzeit nicht zur Debatte steht — ich sehe nicht, dass wir auch nur in die Nähe solcher Konzepte gekommen wären in der bisherigen KI-Entwicklung. Trotz aller nicht von der hand zu weisenden Leistungen aktueller KI-Systeme — sie sind weit weg von dem, was selbst einfache Organismen leisten können. Vor allem aber projezieren wir Menschen unsere eigenen charakterlichen Eigenschaften auf Maschinen, wir vermenschlichen sie. Wir begehen damit einen Kategorienfehler. Literarisch hat das meines Erachtens Stanislav Lem am besten behandelt; insbesondere natürlich in „Also sprach Golem“, aber auch in „Der Unbesiegbare“ (man könnte mit einigem Recht behaupten, dass Lems Werk bzgl. KI sogar um diesen Kategorienfehler kreist). Anders formuliert: Wir schreiben mit unserem Sprachgebrauch einer Maschine mentale Zustände zu, die dort aller Wahrscheinlichkeit nicht existieren. Dabei wissen wir, dass diese Zuschreibung ja schon bei Menschen zu mehr Verwirrung als Aufklärung führt.
ohlsenm23 commented on :
Hallo Tobias, meinst du, dass Bewusstsein abhängig von der Hardware ist? Dass also im Prinzip ein Bewusstsein nur in einem von der Evolution modelliertem Gehirn möglich ist und nicht in einer anderen Art Container? Im Endeffekt passiert Bewusstsein doch durch speziell angeordnete Atome? Oder wissen wir nur einfach nicht genug über Bewusstsein, um es nachzubilden? Dann wäre das ja aber vielleicht nur eine Frage der Zeit und nicht eine Frage des Prinzips?
Karsten commented on :
Die Debatte über das Verhältnis von Körper und Geist und der Reduzierbarkeit voon mentalen Eigenschaften auf materielle Eigenschaften ist komplex, daher möchte ich darauf nicht eingehen. Es gibt aber eine Debatte um „embodied AI“, die sehr erhellend ist. Grundeinsicht ist, dass unsere kognitiven Fähigkeiten zu einem erheblichen Maße von unserem „materiellen Bauplan“ abhängen, so bspw. bei der Orientierung im Raum, bei Bewegungsabläufen und deren Planung etc. Ich möchte eine Prognose wagen: Der Hype um ChatGPT etc. wird sehr schnell wieder abflauen, weil sich zeigen wird, dass diese Systeme an inhärente Grenzen stoßen, weil sie keinen Körper haben und damit sehr viel von dem, was unsere Lebenswirklichkeit ausmacht, nicht wirklich verarbeiten können. Oder anders formuliert: Sollte es jemals eine AGI geben, so wird sie einen Körper haben (müssen).
ohlsenm23 commented on :
Danke für die Antwort! Du hast Recht, dass unser „in einem Körper sein“ ganz viel von unserem Menschsein ausmacht. Es ist ja aber auch möglich, dass KI unser Menschsein nicht versteht, aber dennoch an keine Grenzen der Fähigkeiten stoßen wird, nur es wird eben vielleicht eine andere Art von „Bewusstsein“ sein, was so entfernt von dem ist, was wir als Bewusstsein erkennen, dass es eine unüberwindbare kognitive Brücke zwischen KIs und uns geben wird. Dass chatgpt davon noch sehr weit entfernt ist, ist klar. Auch ist ja eher wahrscheinlich, dass large language models bald an ihre Grenzen stoßen werden. Aber vielleicht braucht es dann eine andere Architektur und anderes maschinelles Lernen. Bestimmt passiert da noch viel in den nächsten Jahren.
Dietmar commented on :
Hallo ohlsenm23 und Karsten, eine Anmerkung zur „unüberwindbare[n] kognitive Brücke zwischen KIs und uns“ (du meist vermutlich: „unüberwindbarer Graben / Abstand / Distanz“):
Die Frage, wie „Computer“ „uns Menschen“ bzw. ihre physische Umwelt überhaupt „wahrnehmen“ ist ziemlich voraussetzungsreich. Ein wesentlicher Punkt scheint mir aber die Zeit zu sein: Was eine CPU von uns radikal unterscheidet, ist die Geschwindigkeit bzw. der Prozessortakt. Der ist bekanntermaßen weit jenseits menschlicher Maßstäbe. Ich bin bin kein Informatiker, aber ich stelle mir vor, Computer nehmen ihre Umwelt (uns) schlicht als völligen Stillstand wahr. Nichts bewegt sich. Praktisch ein Gemälde. Selbst, wenn ich irre schnell auf meine Tasten einhaue, hat ein Prozessor nichts zu tun. Wäre ein Computer ungeduldig, würde er wahnsinnig werden.
bank21app commented on :
Danke für eure Antwort
bank21app commented on :
Danke Josefine Honke
für deine Antwort und an den anderen
Josefine commented on :
Sehr gern! Ich hoffe, du bleibst weiterhin so neugierig! 🙂
bank21app commented on :
Werde ich am Freitag tun