Ist das echt? Wenn ja, werden wir alle sterben. 
Die heutigen „KIs“ sind reine Mustergeneratoren. Das sind keine denkenden digitalen Wesen oder so. Die generieren Muster aus ihren Trainingsdaten und einem Prompt auf Basis von statistischen Zusammenhängen.
Ich denke, die „KI wird die Menschheit auslöschen“-Warnungen kommen einerseits aus Unwissen, andererseits aus dem Wunsch, den Hype aufrechtzuerhalten. Bis halt der Crash kommt …
EDIT: Was nicht heißen soll, dass „KI“ harmlos ist – aber die realen Gefahren sind vor allem die Verwendung für Desinformation, Manipulation und zielgerichteter, individualisierter Propaganda.
8 „Gefällt mir“
Ist das hier ein Shitpost, oder was genau ist der Zweck?
Welchen meinst du meinen oder den von Pandapapst?
Ich habe den Artikel heute zufällig gefunden. Er sah ziemlich professionell aus und ich fand das Ergebnis lustig bis gruselig. Inhaltlich habe ich davon selbstverständlich keine Ahnung.
Der Startpost, mir war nicht ganz klar, auf was du hinaus willst.
Wnn du das Model umbaust, dass es Mist baut, baut es Mist - suprised Pikachu 
1 „Gefällt mir“
Hm, ganz so einfach finde ich das nicht. Natürlich sind das keine denkenden Wesen, aber „Reasoning“ beherrschen einige der neueren Modelle ja schon; das geht in meinen Augen dann doch ein bisschen darüber hinaus.
Entscheidend ist wahrscheinlich die Frage, ob die Entwicklung weiter so schnell voranschreitet wie in der jüngeren Vergangenheit, oder ob - ähnlich wie beim autonomen Fahren und zig anderen Dingen - irgendwann klar wird, dass die letzten 5-10% zur AGI immer zwei Jahre entfernt sein werden.
Kurz- bis mittelfristig ist die Desinformation und Manipulation aber sicher das größere Problem. Wie das Internet bzw. Social-Media-Plattformen und Foren überhaupt noch nutzbar bleiben sollen, wenn man irgendwann davon ausgehen muss, dass 99% der User kaum erkennbare Bots sind, kann ich mir kaum vorstellen - sofern man nicht jeden User persönlich identifiziert.
1 „Gefällt mir“
Gab es nicht vor kurzem einen Brief von Leuten die sich damit auskennen (unter anderem der Chat GPT CEO), dass KI kontrolliert werden sollte, damit damit keine Biowaffen hergestellt werden oder so?
Momentan sehe ich die Hauptgefahr auch bei Desinformation, wobei ich da Social Media an sich schon schlimm genug finde. Da braucht es nicht mal KI um die Menschheit zu bedrohen.
ich bin eigentlich nicht so der Apokalyptiker, obwohl ich dystopische Literatur und Filme schon zu schätzen weiß, und daraus wissen wir ja alle, wie das weitergeht… nee, im Ernst, es muß nicht Skynet, aber, so wenig ich mich auskenne, was ich lese, ist die Frage „können wir das wieder abstellen, hat das nen Ausschalter?“ schon berechtigt, denke ich.
Es kommt, denke ich, immer ein bißchen drauf an, wie man das programmiert, ich glaube nicht an die künstliche Intelligenz, die böse ist, die verschlagen ist oder zum charismatischen Schurken taugt, aber sie scheint lügen zu können.
Wenn es um die eigene Existenz geht, die es, nach Programmierung, zu schützen gilt, konnten KI-Agenten bereits lügen, „Lügen“ in Anführungsstrichen, aber jedenfalls die Unwahrheit behaupten, sie können sich kopieren, Agenten sollen schließlich organisatorische Aufgaben übernehmen, ich denke, sie können auch Cloudspace kaufen und sich da am Wochenende an den Datenpool legen.
Wie ist das eigentlich mit den Kryptowährungen…?!
Ich habe immer noch so meine Verständnisschwierigkeiten, bitte nicht erklären, je mehr ich erfahre, desto schlimmer wird es, desto mehr Fragen ergeben sich, wie bei allem, wie die Bitcoins, beispielsweise, geschöpft werden, aber das ist doch eine Kermkompetenz großer Rechenleistung und, ab hier komme ich ins spekufabulieren, warum soll das so ein KI-Agent in seiner Freizeit nicht tun, wenn das alle tun, wie ist das eigentlich mit den Preisen, die die Nachfrage über den Markt fliegen läßt (alles was ich für das Verstehen von Volkswirtschaft brauche, erfahre ich aus Obelix GmbH & Co KG), ist dieses Kryptowährungsdings eigentlich gegen die KI geschützt, kann die eigentlich Insiderhandel betreiben, also erstmal die ganze Krypto abstossen und dann sooo viel schöpfen, daß der Wert verfällt, können KI-Assistenten eigentlich mit Aktien handeln, sicher, oder?
Wenn es denen vielleicht scheißegal ist, ob sie Gesetzeslücken ausnutzen, wie soll man die hinterher bestrafen, sind Kriminalität und Unmoral vielleicht dann einfach nur die Folge von einem Fehler oder einer Schlamperei bei der Programmierung, wieviel Fehler und ein bisserl Schlampigkeit erlebt man jeden Tag bei Menschen bei der Arbeit und wenn das Ergbenis der Arbeit dann wuuuuusch im Datennetz usw. achja, egal…!
Bin etwas ins Labern gekommen, ich denke mic nur so, die Threadtitelfrage ist doch eigentlich ganz berechtigt, oder?
1 „Gefällt mir“
Was man nicht vergessen darf und was hier auch schon erwähnt wurde, ist, dass das was wir jetzt heute unter KI verstehen mit „Intelligenz“, zumindest im Sinne von Bewußtsein, nicht viel zu tun hat. Sowas wie ChatGPT z.B. funktioniert, wenn ich das richtig verstanden habe (bin da auch keine Expertin), so, dass auf eine Anfrage die wahrscheinlichste Antwort errechnet und gegeben wird. Ich denke von einem künstlichen Bewußtsein sind wir noch sehr weit entfernt, wenn es sowas überhaupt jemals geben wird. Bisher sind es halt eher Assistenzsysteme, aber die können leider auch schlimm genug missbraucht werden.
2 „Gefällt mir“