Nach dem Erkennen folgt das Verstehen resp. die zutreffende Interpretation des Erkannten.

Ich möchte das - aus eigener Erfahrung – am Beispiel des autonomen Fahrens von Kraftfahrzeugen erörtern. Unbenommen der Tatsache, dass alleine schon das Erkennen des Umfelds eines autonom gesteuerten Kfz sehr schnell an seine Grenzen kommt (bei Nebel, Starkregen, Hagel, Schneefall oder Vereisung der Sensorik), wird die Interpretation der sensorisch erfassten Straßenverhältnisse im Verhältnis zur Fahrzeugsteuerung in vorprogammierten Stufen und eindeutiger Konsequenz erfolgen, also z.B. das Fahrzeug an den Randstreifen heranfahren und ggf. zum Stillstand bringen. Damit wäre beispielsweise ein von Menschen betriebenes unvernünftiges Weiterfahren bei ungenügender Sicht oder zu nahes Auffahren ausgeschlossen. Schon heute bieten sog. Spur- und Abstandsassistenten (Distronic) ein erhebliches Maß an Sicherheit. Für LKW sollten diese Systeme verpflichtend sein. (Teil 1)

Nun stellt sich die Frage, ob dieser Absatz überhaupt zur Unterscheidung von menschlichem und maschinellem Denken geeignet ist.

1. Denn es gibt für Mensch wie Technik bzw. Programmen und KI die Grenze der (wie du schreibst) Fähigkeiten. Hier denke ich fast immer an den Flugzeugunfall, der hier beschrieben wird:
https://de.wikipedia.org/wiki/Air-France-Flug_447
Das Geschehen kann aus der Beschreibung des Unfalls im Nachhinein gedacht werden, ohne viel Rechnerei, ohne Mikro- und Makrowissen in Bezug auf "Welt", ohne Nutzen der Polarisierung Geistiges/Materielles. Es war gleichermaßen eine Überforderung für Mensch wie Technik, wenn ich es mal blöderweise so schreiben darf, und dazu: "Die ach so arme Flugzeugtechnik vertraute auf die Piloten, und umgekehrt." Das ist ja auch schon so bei der "einfachen" Navigation geschehen, bei der Personen in einen Fluss hinein fuhren.

Das leider tragische Unglück ist mitsamt seiner Beschreibung sehr interessant, weil es viele andere Sachen aufzeigt, von der Kausalität, auch der negativen, bis hin zur Schuldfrage und den Gerichtsverfahren. Eine dieser Sachen ist, dass die Piloten sich an die Vorschriften zu halten haben, die ausgedacht wurden, also zum Denken gehörten, von denen nicht abgewichen werden sollte. Nur wenn das Denken sich über die Anzeigen der Instrumente wie auch die gelernten Automatismen hinweggesetzt hätte, und sich damit die Freiheit vor Ort und Zeit genommen hätte, wäre eine Korrektur in einem kleinen Zeitraum möglich gewesen, danach war es zwecklos. Das Denken generell mit der Freiheit zu verbinden ist ein schweres Unterfangen, und dann noch mit Sätzen in Bezug auf die Krone der Schöpfung. Ich habe jedoch nichts dagegen, wenn eine Person geistig denkt oder geistig/geistlich zu denken vermeint. Ich würde auch gerne richtig glauben, empfinden, fühlen, erfahren, wahrnehmen. Nur habe ich vielleicht keine Wahrnehmung als Instanz, sondern überwiegend eine Falschnehmung, empirisch festgestellt.

Analog zu diesem Unfall fällt mir nur derjenige mit folgendem Link ein:
https://de.wikipedia.org/wiki/Ungl%C3%BCck_bei_der_Loveparade_2010

2. Eine ganz andere Sache kommt mir immer wieder in die Erinnerung. Und zwar versuchte Ansgar Beckermann mit dem Wortpaar "interpolierendes Denken", herauszufinden, ob dieses bei Menschen vs. Maschine anders war. Er fand heraus, dass beide es auf dieselbe Art machten. Sein Buch hierzu ist bei mir irgendwo verschollen. Und wenn das bei allem oder nur vielem anderen Denken denn auch der Fall wäre? Was dann? Zumindest ginge Teil 1 an der Sache vorbei, bzw. er würde nicht zu dem führen, was du danach zu denken geben willst:

Was einem Automaten definitiv fehlt, ist das Vermögen der Empfindung. Oft hatte ich dieses untrügliche Gefühl von Gefahr, quasi eine Vorahnung, dass z.B. eine Vorfahrt nicht gewährt würde oder Kinder auf die Straße laufen, etwa um einen Ball zurück zu holen. Besonders beim Motorradfahren ist dieses Gefühl – natürlich neben Erfahrung – lebenswichtig, da würde ich mich nie und nimmer auf einen Automaten verlassen, allenfalls als Assistent.

a. Hierzu kann auch ich von dieser Sache abkommen, nachdem du von der ersten abkamst und sagen: Was hilft dieses "untrügliche Gefühl", wenn es im Extremfall überwiegend das Ende ankündigt, wie im besagten Flugzeugunfall? Was würde es nutzen, wenn die vorprogrammierte oder nicht vorprogrammierte Satz in der KI entstehen würde: "Ich würde mich nie und nimmer auf einen Menschen verlassen, allenfalls als Assistent"? Wäre er dann nicht wie du, auch von der Sache abgekommen? Dieser mein Einwand ist nur ein sekundärer.

b. Ich habe immer "noch" Schwierigkeiten mit der Fehlerklassifikation. Ist es ein Kategorienfehler im Sinne von Ryle, der zu dem zweiten Fehler führt, ab vom der Sache zu kommen, und dann Empfindungen ins "Spiel" zu bringen? Und wenn ich damit einverstanden wäre, was dann? Ist nicht jedem Lebewesen das Primat der eigenen Überlebens einprogrammiert? Und führt dieses in Kombination mit "Denken" dann nicht dazu, dass die Extremlagen "erkannt" werden? Und die unterschiedlichen Lagen dazwischen zu benennen, was dann auch KI könnte. Hier müsste ich weit ausholen, und in Richtung Selbstbezeichnung/Fremdbezeichnung. Im Extremfall komme ich nicht gegen die Selbstbezeichnung einer Person an. Dh. wenn du sagst, dass du das Vermögen des Empfinden hast, wäre es töricht von mir, es dir abzusprechen. Und umgekehrt: Wie könnte ich behaupten, eine Person hätte keinen Käfer in ihrer Kiste? Das kommt mir nicht einmal, im Gegensatz zu Wittgenstein, in den Sinn.

c. Das Thema "Vermögen" kann ich hier aus Zeitgründen nicht ausbreiten. Zähle mal alle Vermögen auf: Vernunft, Verstand, Gefühl, Empfindung, Wille, Emotion, Verhalten, Glauben, Ich (bzw. den Homunkulus), dann bringe noch die Verben dazu, dann die Zentralstellen für die Instanzen, etwa das Bewusstsein, den Geist, dann das was zu diesen von den anderen Stellen zugetragen wird, was dann? Und wenn du dann noch die Kleinteile bedenkst, die für den Transport zuständig sind. Ich kann mir vorstellen, dass du dann zusätzlich zu den Nervenströmen und Hormonen, die Information, das Geistige auch noch andere Wörter brauchen würdest. Du kannst es probieren, aber ich mache nicht mit. Siehe https://de.wikipedia.org/wiki/Epoche_(Philosophie) Noch eine dumme Frage: Gibt es auch das Vermögen der Politik?

Doch nochmal zurück zum „programmierten Wesen“. Ich denke, dass ein solches Wesen niemals zu denken vermag, wie das dem Menschen möglich ist.

Ich glaube auch:

Doch nochmal zurück zum "menschlichen Wesen". Ich rechne (denke?), dass ein solches Wesen niemals so (gut und schnell, als Zusatz) zu rechnen vermag, wie das dem (oder "dem") Computer möglich ist.

Na und?

Aber was heißt eigentlich denken?

„Ich hab gedacht“ sage ich zu meiner Frau und sie sagt (zumeist zurecht) „was du immer denkst“. Hier geht es um Inferenz und zwar um eine subjektiv unzureichende, dem Urteil meiner Frau entsprechend. Grundsätzlich handelt es sich dabei aber um das gedankliche Ein-/Zuordnen von Wahrnehmungen, Vorstellungen, Begrifflichkeiten, eine von Inspiration und Intuition unabhängige Gehirnleistung.

Hier kommt mir wieder dieses Wirrwarr der Instanzen, Vermögen, usw. entgegen. Die Fragen sind gut, aber die Antworten ...

... (die Zeit als Instanz/Vermögen macht mir einen Strich durch die Rechnung, so kann ich nicht weiterfahren.) Ich könnte auch schreiben: Genug meines Geschwafels. Jedoch:

Ich schreibe ganz dreist: Die Antwort auf meine Frage habe ich noch nicht bekommen, die Antwort von den Kompetenten, auf die auch Claus Zimmermann vielleicht hoffte. Ist Claus mit deiner Antwort zufrieden? Soll ich die Frage anders stellen, sie aufteilen?