Angst vor dem Supergehirn?

Endlich! Endlich mal wieder ein Leit Medien-Artikel, der sich nicht nur mit einigen meiner liebsten Themengebieten (Robotik, Übermenschen, Liebesroboter und so weiter) beschäftigt, sondern das Ganze auch von einer Seite beleuchtet, die viel zu selten betrachtet wird: Technik, die den Menschen nicht nur überholt, sondern ihn auch auf der Strecke bleiben lässt, ja in fast schon überfährt.

Was ich meine? Ein praktisches Beispiel: Als im Jahre 1876 im schönen in Köln die Deutz AG die ersten Viertaktmotoren produzierte, hatte sicher noch niemand was von Umweltzone oder Smog gehört. Geschweige denn sich Gedanken um so einen Schnickschnack gemacht. Heute aber heißt es: Da kommt Qualm raus, das macht Lärm und stinkt, das muss weg. Ergo: Die Technologie war schneller als der Mensch und seine eigentlichen Bedürfnisse (kein Qualm, Ruhe, etc) Beim Thema Automobil und Umwelt ist das sicher schon schlimm genug, jedoch aber mit viel Mühe und vielen Vielleichts noch abwendbar; zumindest aber eingrenzbar (Öko-Autos, Umweltzonen, Katalysatoren, Tempolimits, etc etc) 

Was aber passiert, wenn wir eine technische Evolution erleben, die schneller vonstatten geht, als der klügste Mensch auf dem Planeten 1 und 0 sagen kann? Was dann? An anderer Stelle habe ich mich dazu (u.a auch zum Blue Brain-Projekt) mal etwas länger ausgelassen: Hallo Übermensch! Und hier steht dazu auch noch was. Ich darf mich mal kurz selbst zitieren:

Nach meiner bescheiden Einschätzung bleibt nur eine Möglichkeit: Wenn wir in den nächsten zwölf Jahren etwas schaffen wollen, was so intelligent sein soll, wie wir es sind –  oder gar noch vernunftbegabter! – dann sollten wir diesem Dings alle (und zwar wirklich alle!) Möglichkeiten mit auf den Weg geben, die wir Zweibeiner auch haben. Und noch mehr! Einfach nur einmal die totale Anarchie wagen! Die totale Freiheit. Den Zugang zu allen Informationen, die jemals irgendwo irgendwie eindigitalisiert wurden. Und bis 2023 werden das 'ne Menge sein. Dann schauen wir mal, was draus wird. 

An diesem Statement hat sich bis heute nichts geändert. Die Zeiten von Schranken, Regularien und Grenzen sind vorbei. Der alte Mensch darf und kann der wahrhaftigen Information – und somit der wahrhaftigen Intelligenz (ich gehe sogar noch weiter: der wahrhaftigen Liebe!)  – keine Zwangsjacke anlegen! Sonst haben wir 2040 ein Szenario, was uns allen nicht so richtig gut tun wird; ein Szenario, welches dem aus Terminator sehr nahe kommen könnte. 

Ich bin verrückt? Dann scheint zumindest ein gewisser Herrn Thomas Grüter meinen Wahnsinn zu teilen: 

Aber nehmen wir einmal an, das Werk gelingt, und ein Großcomputer bildet tatsächlich ein menschliches Gehirn nach. Die Mensch-Simulation würde dann unbedingt behaupten, ein bewusstes Individuum zu sein. Demzufolge müsste man sich Gedanken darüber machen, ob ein solches Kunstgehirn Rechte hat. Es würde sich als Mensch fühlen, Schmerz empfinden können, Ziele haben, ein Leben führen wollen.

Weiter schreibt er: 

Man darf davon ausgehen, dass die Computergehirne alles tun würden, um ihre Unsterblichkeit zu sichern. Sie würden also eventuell gegen die Menschen um die Macht über Rohstoffe und Energiequellen kämpfen. Vernor Vinges pessimistische Prognose könnte realistischer sein, als man dies auf den ersten Blick erwartet hätte.

Meine Rede. Wir müssen schon jetzt – heute, im Jahre 2012 -, überlegen, ob und welche Grenzen wir denen auferlegen, die nach uns kommen (denn das da welche kommen, ist doch wohl klar, oder?) 

Toller Artikel, echt mal! Der spiegelt so unglaublich viel vom dem wieder, was ich u.a hier seit Jahren runterpredigeleiere. Mein Dank geht an Herrn Grüter! Mit Ihnen würde ich mich ja zu gerne mal länger unterhalten! 

9 thoughts on “Angst vor dem Supergehirn?

  1. Markus says:

    Als selbsterklärter Weitblicker freue ich mich immer über Ähnlichspekulierende und noch mehr über Deine scharfe Analyse um die (oft mangelnden) Gedanken an die Folgen von "technischem Schnickschnack."
    Was den notwendigen Zugang zu allen Informationen für alle, die es möchten angeht, bin ich auf Deiner Spur. Die Zeiten ändern sich. Also muss der Mensch sich ebenfalls ändern. Allerdings hat sich der Mensch, ein Erfolgsmodell der Natur (nicht der Technik) schon lange als sehr anpassungsfähig bewiesen, deshalb kann man die Möglichkeiten, die die Zukunft bringt, nur eindimensional mit den Umständen der Gegenwart bewerten.
    Das "Skynet-Szenario" ist eins von vielen und durchaus denkbar, sofern es der Menschen bzw. die Menschheit als Gesamtorganismus nicht versteht, sich mehr und mehr als solcher zu begreifen. Hey, wer hat das Internet erfunden und füttert es nanosekündlich mit neuen Infos, Tools, Viren, Ideen etc.? Das Internet ist ein Produkt menschlichen Denken, Fühlens & Wollens. Und genau da liegt in meinen Augen der Knackpunkt. Denn jedes intellektuelle Wissen ist nur die Hälfte wert (wenn überhaupt), wenn es nicht emotional verarbeitet wird.
    Genau das ist jedoch die Herausforderung, um die es geht. Wirkliche Intelligenz beginnt erst mit dem empathischen Verstehen von Wissen. Auf unterbewusster Ebene leben wir doch schon längst in einem Internet, dem das Internet, in dem dieses Kommunikationskästchen samt Kommentar zu finden ist, nur ein Gesicht von vielen gibt. Dieses "Meganet" (jeder andere Begriff ist ebenso gut) zu erkennen, zu verstehen und seine eigene Spacken und Talente damit zu synchronisieren ist das, worum es auch die nächsten Jahre gehen wird.
    Computergehirne bilden dafür "nur" ein weiteres simulatives Werkzeug und wenn wir Menschen es schaffen, uns selbst nicht immer allzu wichtig zu nehmen, dann wird ein solcher potentieller "Hal" auch dieses Futter fressen. Ergo: Warum sollte dann auch ein Superrechner nicht auch lernen können,  z.B. locker, entspannt oder mal etwas bescheidener zu sein.
    Und wenn nicht, wen schert's, weil kluge, vernünftige Denker und Macher (oder mit Deinem Jargon zu sprechen >> Nexthumans) dann vielleicht schon wieder einen Schritt weiter sind und wiederum vom Superrechner gelernt haben.
    Nix wird so heiss gegessen, wie es gekocht wird. Nicht mal Cybergulasch. My 2 Cents. 

  2. Chris says:

    Danke für deinen ausführlichen Kommentar, Markus, echt klasse. Ich sehe das ganz ähnlich, muss bei dem Thema auch immer "etwas" an Aliens bzw. futuristische Romane denken: "Die" (aliens) haben (in einigen Romane und in meiner romantischen Vorstellung") längst kapiert, dass Wissen (Information)  zwar "Macht" bedeutet, allerdings meinen "die" die Macht, über "sich selbst". Die eigene Macht zu Begreifen, dass Kooperation und Kollaboration zu mehr Produktivität, zu Frieden, zur Utopie (aus meiner heutigen Sicht) führt. Zwangsläufig. Und da bin ich wieder ganz bei dir: Das muss man (die) aber auch erstmal wissen, und ganz besonders "emotional" begreifen und verarbeiten können. 

    Der Faktor auf den ich (meist) abziele, ist aber der hier (der sehr christliche, mit Nächstenliebe und so ner Kacke): Im Jahre 2008 (mein ich) ist den es BlueBrainern in der Schweiz gelungen,  (noch etwas mehr als) den Neokortex einer Ratte "live" zu nehmen.

    Meine Bedenken: Wenn das geht – und wir aber noch nicht mal in der "nicht virtuellen Welt" verstanden haben (Stichwort: Qualia) ob und wie so ein Mini-Hirn funktioniert und was es denkt, fühlt und wie es möglicherweise handeln wird, wenn es merkt, dass es nur ein dämliches Experiment der "Herrscherklasse" ist. – was passiert dann erst, wenn wir weg von der Ratte, hin zum Humanbrain gehen (was ja derzeit passiert, wie oben etc erwähnt)  Bevor wir dem Hirn dann "was wegnehmen", es " virtuell bescheiden", sollten wir es nicht mit ALLEN Infos versorgen und es selbst entscheiden lassen? (siehe Alien-Theorie-> Schlau/informiert = Friedlich) 

    Ich wäre jedenfalls mehr als stinking, würde ich in einer VR-Umgebung aufwachen, und merken, dass ich keine echten Beine habe, mit denen ich meine "Götter" treten kann. Next: Ich suche mir Beine. Egal wie. Habe ich aber das Gefühl, "frei" und "evolutionstechnisch unbeschnitten zu sein"…wäre ich milder gestimmt. DAS ist der Knackpunk…über den ich Bücher schreiben könnte (und das ja auch mache, aber nie zum Ende kommen werde. Ich weiß es;) 

  3. Markus says:

    Gern geschehen. Mich beschäftigt diese Thematik auch immer wieder.
    Ich bin auch bei vielem skeptisch, was den verantwortlichen Umgang mit zukünftigem Wissen und entsprechenden Erkenntnissen und Technologien angeht und sehe das ähnlich wie Du: Wer keine Macht über sich selbst in persona hat, versucht dies mit der Macht über andere zu kompensieren. Das siehste überall. Insofern kann man davon ausgehen, dass es weitreichende Bestrebungen geben wird, dieses "Superhirn" kontrollieren zu wollen.
    Meine Ansicht bzgl. dem Handling ist jedoch ähnlich wie Deine. Nur ein größtmögliches Wissen, auch über die Umstände, würde ihm als Individuum ermöglichen, emotionaligente Entscheidungen zu treffen, die nicht nur mit sich selbst zu tun habe. Also nach dem Prinzip "Jeder kontrolliert den anderen, und weil jeder weiss, dass es so ist, verschwindet nach und nach das Bestreben, es wirklich zu tun, weil man es eh nicht ändern kann, und man konzentriert sich wieder auf sich selbst". Soweit jedenfalls (m)eine theoretische Variante.
    Um Beine zu haben, bräuchte er kaum anderen die ihren wegnehmen. Dafür würde er sich einfach in den Neocortex plus Resthirn seiner Kontrolletis einklinken. Damit hätte er dasselbe Ergebnis. Weil er aber angefressen ist wegen fehlendem Vertrauen, mangelnder Verantwortung oder Machtgeilheit seiner "Schöpfer" würde er sie wahrscheinlich spüren lassen, wie es ist, keine Beine zu haben und nur benutzt zu werden. Wenn auch vielleicht nur aus pädagogischen Gründen im Sinne von "Wacht mal auf, Ihr Brainis, Ihr seid auch nur die Kasper Eurer eigenen Suppe."
    Schreib weiter Deine Bücher. Bin gespannt. Ob Du sie in den Rechner hackst oder in die interdimensionale Festplatte hinein denkst, spielt letztlich wahrscheinlich nur eine Rolle dahin gehend, wer sie wie lesen kann.
    By the way: Aliens sind wahrscheinlich auch nur in Filmen immer böse, weil es erstens mehr quantitativen Zuschauererfolg bringt und weil sich der Mensch ja vielleicht einen Zacken aus seiner viel zitierten Krone der Schöpfung brechen könnte, wenn er Lebensformen anerkennen, die ihm nicht nur intellektuell weit voraus sind. Aber auch hier gilt, wie Du auch sagst: Schlau/Informiert gilt auch für den Menschen. Wenn er nicht weiss, warum und überhaupt, kann man ihm, also dem Individuum, aufgrund seiner Sozialisation erstmal keinen Vorwurf machen bzw. wäre das ungefähr wie das Verurteilen eines Menschen ohne Beine dafür, dass er einen schlechten Schuhgeschmack hat.
    [Leer geschrieben für heute. Bis denne, Doktor H.]

  4. Tristan says:

    "und somit der wahrhaftigen Intelligenz (ich gehe sogar noch weiter: der wahrhaftigen Liebe!)"
    Wow, das zauberte ein verträumtes Lächeln auf mein Gesicht!

  5. Transfektion says:

    Ich kann dieses Transhumansimus-Geblubber nicht mehr sehen, weswegen ich jetzt hier mal auf mich aufmerksam machen muss.
    Vielleicht habe ich ja etwas essentielles übersehen und ihr könnt mir auf die Sprünge helfen aber im Moment glaube ich, dass es eher umgekehrt ist.

    Auf ein, von Menschen geschaffenes, neuronales Netz Gefühle zu übertragen …

    Aber fangen wir mal schön am Anfang an.
    JEDE Technologie hat ihre Grenzen. Es gibt keine Mach 40 Flügzeuge, keine 200 GHz CPUs, keine Perpetuum mobiles.
    Es gibt kein, wie es im Kurzweils populären Singularitäts-Gesülze propagiert wird, exponentielle technologische Entwicklung, eher eine logarithmische.
    Und um die Höhepunkte einer technologischen Entwicklung vorhersagen zu können muss man seine Grenzen kennen.

    Machen wir doch gleich mal weiter mit den Grenzen eines simulierten Gehirns.
    Gut. Du hast da ein (sagen wir mal) zu 100% nachgebildetes Gehirn. Was fehlt?
    Genau, das periphere Nervensystem. Was macht das periphere Nervensystem?
    Es sendet Impulse, die teils von höheren, teils von niederen Hirnarealen verarbeitet werden. Was geschieht mit diesen Impulsen?
    Einige (nur seeeehr wenige) werden bis hin zum Bewusstsein weiter gereicht, der Rest wird zwar prozessiert aber nicht wahrgenommen. Wieso werden Impulse unterdrückt?
    … Ok lassen wir es dabei. Wer dennoch wissen will wiso neuronale Homöostase ganz sinnvoll ist sollte Epileptiker fragen.

    .. Ok nehmen wir es wieder auf.
    Was macht der Großteil eines Gehirns, dass keinen Input bekommt? Schon mal in einem Floating-Tank gewesen oder allg. über längere Zeit eine Sinnes-Deprivation erlebt?
    Unser Bewusstsein braucht seine Umwelt, unser Gehirn braucht die pausenlose Erregung und Hemmung der neuronalen Aktivität und die kommt eben nur von Außen. Unser Gehirn, also folglich auch das simulierte, ist darauf ausgelegt!
    Unser simuliertes Gehirn braucht also einen permanenten Stimulus. Aber ist simuliertes Gehirn und Stimulus nicht Menschen-gemacht, lückenlos verstanden, gar deterministisch?
    … bla … Was ist Bewusstsein?

    Gute Frage oder? Ich hab hier noch eine gute:
    Wird es Menschen jemals gelingen ein, sich selbst bewusstes, „Substrate independent mind“ zu erschaffen oder sich immer in deterministischen Gefilden bewegen?

  6. Chris says:

    Klasse Kommentar, ihr beiden, besonders den eingebrachten Aspekt von @Transfektion find ich super!  Ich muss darüber grübeln, in Ruhe, melde mich in Kürze dazu! 

  7. Transfektion says:

    Lass dir ruhig Zeit mit dem nachdenken.
    Ich denke da schon länger drüber nach, ob es strong AIs jemals geben wird.
    Die Frage ist zwar noch nicht restlos beantwortet aber meine Zukunft tendiert gerade eher zu super potenten Denkmaschienen, die ohne menschliche Anstlße üassiv sind.

  8. Olaf says:

    Ich bin ja auch jemand, der keine Angst vor der Zukunft hat.  Obwohl in der Sache recht ahnungslos, lasse ich mich doch immer wieder gerne von Roboter- und KI-Szenarien inspirieren. Allerdings denke ich, dass eine 100%ig künstliche Intelligenz, also eine, die das Zeug dazu hätte uns den Garaus zu machen, oder wenigstens mal richtig die Leviten zu verlesen, nicht möglich ist. Das menschliche Dasein ist viel zu komplex und wird vom Menschen selbst noch längst nicht ausreichend "in seiner Funktionsweise" verstanden.  
     
    Klar, Wissenschaftler können Netze erschaffen, die – rein "hardwaremäßig" – ähnlich komplex sind, wie unser Hirn. Sie können elektrische Impulse durch diese Netzwerke jagen, genau so, wie es in unserem Körper passiert. Das können sie messen. Aber sehr viel weiter ist die Wissenschaft noch nicht. 
     
    Ein Ding, was die KI sofort an ihre Grenzen bringt, ist bspw. unsere Sprache und ihre Kontextabhängigkeit. "Er winkte dem Mann mit dem Hut." Mhh. Winkte er dem Mann mit seinem Hut oder winkte er dem Mann mit dem Hut? Ein Computer ist da regelmäßig überfordert, denn dem Satz fehlt die Eineindeutigkeit. Die aber braucht der Rechner, damit er zu einem Ergebnis kommen kann. Wir Menschen können wissen was gemeint ist, weil wir den Kontext (er)kennen, bzw. erahnen können. Deshalb habe ich auch überhaupt keine Angst, dass sich irgendwann einmal Roboter mit KI gegen uns wenden werden. Die können einfach nicht zwischen den Zeilen kommunizieren. Wir können das. Informationen Preis geben ohne die Informationen Preis zu geben. 
     
    Außerdem fehlt der KI die Seele, diese Unbekannte, deren Dasein wir uns nicht erklären können, die aber unser Dasein ausmacht. @ Transfektion hat das ja ganz nüchtern beschrieben. Insofern freue ich mich auf zukünftige Technik, weil sie uns lediglich viel Arbeit abnehmen und Zeit schenken wird. Und die sollten wir nutzen darüber nachzudenken, was wir dann mit uns anfangen sollen. Aber Achtung! Soziale Innovationen wie das BGE könnten dann zu den Folgen gehören… ;o)

  9. Chris says:

    @Markus: Den Gedanken "keine Macht = scheinbare Macht über andere(s)" finde ich nicht schön, aber wahr ist er wohl, ja. Leider. Und die "theoretische Variante" finde ich etwas "utopisch", aber an einigen (auch politischen)  Vorkommnissen kann man ganz gut erkennen, dass die sicher nicht die unwahrscheinlichste sein kann. Ich wünsch mir jedenfalls mehr davon. Wo kein Zwang, da auch – zumindest weniger – Kontrolle.

    Die Idee das er  (besser evtl? "es") "Milde walten" lässt, ist zwar nett, aber ich denke: Wenn die dem /ihr/es nicht das "Wut-Zentrum" aus dem VR-Hirn schneiden, wird der sauer sein. Ich wärs. So ohne Beine ;) Und das Gefasel der Forscher  von "ja aber der hängt ja nicht am Netz, der ist abgeschottet"…halte ich für fatal. "Autark" wäre das richtige Wort…und die Autarkie wird der in dem Moment brechen wollen, in dem er/es schnallt, dass er/es schlauer ist, als alles… Fiese Fiktion? Ich halte es zumindest für denkbar.

    Bücher: jeps, mache ich. Eine Science-Sci-Fi-Romanze soll's werden. Mal sehen ;)

    Die Alienthese unterstütze ich so: Die wären doch doof, wenn die uns sagen: "Guckt, ihr habt eurer Rohstoffe so gut behandelt,…so baut ihr den Jupiter ab" Die sind schlau, machen das selber, und wenn die uns DANN noch retten wollen, wäre das wie ein 6er im Lotto.

    Wuahahah… der Schuhvergleich! Ich muss lachen. Gemein, aber wahr. 

    @Transfektion & @Olaf: Antworte euch in Part 2 ;) 

    Erstmal Mittag.

Leave a Reply to Transfektion Cancel Reply

Your email address will not be published.

Cookie Consent mit Real Cookie Banner