Am 16.06.23 um 16:49 schrieb Ingo Tessmann über PhilWeb:
> … ich halte ja an der Unterscheidung von (er)lebenden Organismen und
bloß funktionierenden Maschinen fest, insofern geht es mir nur um die
Annäherung von maschineller an menschlicher Intelligenz. Äußerlich
könnte sie sehr weit gehen, auch hinsichtlich der Farbenbestimmung. Und
solange wir den Organismus bzw. die Maschine als black box betrachteten,
gäbe es kaum noch Abweichungen.
-------------------------
Hallo Philweb, Hallo Ingo Tessmann,
vermutlich weit entfernt von einer wissenschaftlichen Vorgehensweise
lese ich hier interessiert mit. Mich haben schon immer diese Themen interessiert,
wenn auch eher auf literarischer Ebene. Strugatzki, Assimov, P.K.Dick, Stanislav Lem
und sehr viele andere mehr.
Stanislav Lem hat in den 60er Jahren (?) eine Geschichte geschrieben, die
mir unvergessen blieb; es geht darin (ganz kurz gesagt) um eine Untersuchung , warum ein
Raumschiff beim Start plötzlich und unerwartet umdreht und auf dem
Startplatz zerschellt.
Es stellt sich nach langem Hin und Her heraus, daß dieses (von einer KI gesteuertem) Raumschiff
durch ein zu umfangreiches Sicherheitskonzept wegen der sich-, ähnlich einer DOS-Attacke-,
die KI immer schneller um immer dieselbe Sicherheitsabfrageroutine letztendlich
selbst ausser Gefecht gesetzt hatte.
Stanislav Lem beschrieb hier (meiner Meinung nach) einen "Bedingten Reflex",
also ein, in diesem Fall, "vorprogrammiertes Desaster".
soweit ich mich noch an die Geschichte erinnere, fand die Untersuchungskommision
(Pilot Pirx) heraus, dass der Programmierer selbst unter einer Sicherheitsneurose
litt und dieses Problem mit seinem Programmcode in der KI des Raumschiffs
im Kernel verankert hat.
als technischen Ablauf wurde die Ursache der Katastrophe so beschrieben:
Die KI leitet den Start ein.
DIe KI "erkennt" den Start-Landeplatz (oder den Startplaneten?) als Kometen auf Kollisionskurs
Die KI leitet ein Ausweichmanöver ein
Die Rakete zerschellt auf der Start/Landebahn
ich weiss selber, dass diese sehr verkürzte Beschreibung etwas "zu wünschen übrig lässt
und viel Luft nach oben" beinhaltet..:)
aber ich müsste LEM heissen, wenn ich es originalgetreuer schildern wollte.
kann es also sein, dass diese KI einen "Bedingten Reflex" angelernt bekommt,
ein Lernkonzept daraus entwickelt und somit IMMER ein Sicherheitsrisiko
darstellt? wäre eventuell auch eine gute Frage an diese "Blackbox".
so quasi ein Faustischer Nackenhieb auf die schöne neue Welt die uns
mit weit geöffneten Armen erwartet?
-----------
eine Definition "Bedingter Reflex"
Ein bedingter Reflex ist eine durch einen Lervorgang beeinflusste,
somit also erfahrungsbedingte Verhaltensweise, bei welcher ein vorher
neutraler Reiz gelernt wird, so dass dieser nachher als bedingter (also erlernter) Reiz wirkt.
Er ist – genau wie der unbedingte Reflex von dem er sich ableitet –
unabhängig von einer inneren Handlungsbereitschaft.
-----
Das Funktionsschaltbild/Ablaufschema zum erweiterten Reiz-Reaktions-Schema
zeigt die wichtigsten Stufen dieses Lernvorgangs
vorher:
Der unbedingte Reiz löst genau wie beim unbedingten Reflex die unbedingte Reaktion aus.
Wird ausschließlich der neutrale Reiz dargeboten, so findet keine Reaktion statt.
während:
Bietet man nun
(1) mehrfach
und
(2) gleichzeitig oder sehr kurz aufeinanderfolgend (Kontiguität)
den unbedingten Reiz und den neutralen Reiz an, so findet eine
neue afferente Verknüpfung statt. (Die Reaktion wird natürlich ausgelöst.
nachher:
Bietet man anschließend nur noch den vorher neutralen Reiz an,
so wird die bedingte Reaktion ausgelöst, es handelt sich jetzt also
um einen bedingten Reiz. Es handelt es sich also um eine Form des Reizlernens.
Im Gegensatz zur reizbedingten (=klassischen) Konditionierung ist hier
aber keine innere Handlungsbereitschaft notwendig, da ein vorher
unbedingter Reflex verändert wurde und keine Instinkthandlung.
Wichtige Beispiele für bedingte Reflexe sind...
...die Verknüpfung des Lidschlussreflexes mit einem Klingelton
...allgemein durch Reizlernen veränderbare polysynaptische Fremdreflexe
(Quelle: https://biologie-lernprogramme.de/daten/programme/js/konditionierer/daten/html/bedingter_reflex.html')
Gruss in die Runde
ingo
Gesendet: Freitag, 16. Juni 2023 um 16:49 Uhr
Von: "Ingo Tessmann über PhilWeb" <philweb@lists.philo.at>
An: "philweb" <philweb@lists.philo.at>
Cc: "Ingo Tessmann" <tessmann@tu-harburg.de>
Betreff: [PhilWeb] Re: Hat die künstliche Intelligenz Angst davor, abgeschaltet zu werden?
> Am 16.06.2023 um 16:38 schrieb Claus Zimmermann über PhilWeb <philweb@lists.philo.at>:
>
> ...wenn es sich statt konditionierter Reflexe um Wahrscheinlichkeitsberechnungen handeln würde, wäre das auch kein künstliches Erleben.
… ich halte ja an der Unterscheidung von (er)lebenden Organismen und bloß funktionierenden Maschinen fest, insofern geht es mir nur um die Annäherung von maschineller an menschlicher Intelligenz. Äußerlich könnte sie sehr weit gehen, auch hinsichtlich der Farbenbestimmung. Und solange wir den Organismus bzw. die Maschine als black box betrachteten, gäbe es kaum noch Abweichungen.
_______________________________________________
PhilWeb Mailingliste -- philweb@lists.philo.at
Zur Abmeldung von dieser Mailingliste senden Sie eine Nachricht an philweb-leave@lists.philo.at