[Bloggen vom Chaos Communication Congress]
Tag 1, 20.30 Uhr: Beyond Asimov – Laws for Robots
Hier habe ich mir eine so prachtvoll unbequeme Halb-Sitz-Position in der hinterletzen Ecke erkämpft in einem wieder mal völlig überfüllten Saal, dass mich mit der Zeit Krämpfe befallen. Dassja nicht mehr feierlich. Aber dafür ist der Vortrag wieder sehr gut.
Frank Rieger stellt nämlich die Frage, wie man mit den Risiken umgehen soll, die Roboter bzw. autonome komplexe technische Systeme mit unvorhersagbarem Verhalten physischer Folgekraft für uns bedeuten.
Klassische Ansatz-Idee: Asimovs Robotergesetze. Die sind allerdings in natürlicher Sprache formuliert, mit Wörtern, die auch heute noch keine Künstliche Intelligenz hinreichend verstehen würde, um sie in brauchbare Handlungsvorgaben umzusetzen. Ach, da brauchen wir ja nur ein paar Jahre warten, dann ist die KI so weit? Pustekuchen, das reden wir uns schon seit Jahrzehnten ein! Wir können ja geduldig warten, aber das Problem und damit die Notwendigkeit eines Ansatzes sind schon jetzt konkret da: zusehends komplexere Software, die in ihrem Verhalten nicht mehr vorhersagbar ist, steuert immer kraftvollere, gefährliche Maschinerie; mehr und mehr automatisierte, selbständig handelnde z.B. bewaffnete Drohnen usw.; und wir begeben uns in kritischen Infrastruktur-Fragen in immer höhere Abhängigkeit gegenüber automatischen Systemen, die uns im Falle ihres Ausfalls völlig hilflos gegenüber menschlich nicht mehr bearbeitbaren Komplexitäten da stehen lassen.
Wie unser Vertrauen in die Maschinerien rechtfertigen? Nun, zumindest für die Vertrauensregulierung gibt es Ansätze. Z.B., komplexe Systeme als “legal entities” zu behandeln, die ihr eigenes Einkommen erwirtschaften und so für ihre eigene Versicherung zahlen können. Versicherungslogiken umdenken. Wer ist verantwortlich zu machen, wenn eine Maschine Amok läuft? Ihr Konstrukteur, ihr Programmierer, ihr Besitzer? Derjenige, der ihr neuronales Netz an dubiosen Szenarien anlernte? Wegdriften menschlicher Verantwortlichkeit in unvorhersagbare Automatisierung …
(Interessante Zwischennote: Sobald ein nicht-menschliches System in seinem Verhalten durch Komplexität unvorhersagbar wird, neigen Menschen dazu, es zur Persönlichkeit zu vermenschlichen; und umso mehr Zutrauen dazu zu fassen, je mehr es mit “Cuteness” aufgeladen ist. Bild dazu: US-Militärroboter, die so süß sind wie Wall-E. Das nehme ich als weiteren Beweis dafür entgegen, dass LOLcats nur die Sprache sind, mit der uns die posthumane Singularitäts-Intelligenz unterjochen wird.)
Welche Maschinerie erlauben, welche nicht? Angelsächsischer Ansatz: Es ist erlaubt, wenn es versicherbar ist. Nuklear-Ansatz (wie bei Nuklearwaffen): Es ist erlaubt, wenn der Staat sein Okay gibt, denn das Risiko ist nicht versicherbar. Oder, und jetzt ein bisschen Technikpolitikgeschichte, der deutsche TÜV-Ansatz. Zertifizieren von Technik usw. TÜV-Geschichte. “Dampfkesselüberwachungsverein” — so wie laut Donnie Darko “Cellar Door” das schönste, vollkommenste Wort der englischen Sprache ist, so ist wohl “Dampfkesselüberwachungsverein” das Äquivalent für die deutsche Sprache, denke ich mir.
Rieger zeigt schöne Videos, u.a. den Old-Glory-Insurance-Werbespot mit Sam Waterstone (Law and Order), der eine Senioren-Versicherung gegen mordende Roboter anpreist. Klassiker.
Am Ende präzisiert Rieger die Idee einer TÜV-Lösung für Roboter: Ein Peer-to-peer-TÜV, wo jeder Roboterbastler das Werk jedes Anderen zertifiziert, à la Open-Source. Nur notwendigerweise etwas strenger, forciert gewissenhafter in der Qualitätskontrolle, denn hier geht es nicht einfach um das Vermeiden irgendwelcher Datenlecks durch Buffer Overflows, sondern um potentiell bösen, argen physischen Impact. Schlägt Formalisierungen in öffentlich zugänglicher Dokumentation der Basteleien vor, Checklisten und Grundregeln, nach denen etwas zertifiziert werden könne, das Kalkulieren von Maximalschäden und das Sammeln von bisherigen Problemen, das Studium von Postmortems usw., und am Ende kriegt man dann das Zertifikat “qualified robot tinkerer” an die Brust geheftet.
Thursday January 8, 2009
Werbung
(hier war mal AdSense-Werbung, heute aber nicht mehr)
Kommentarfunktion für diesen Artikel geschlossen.
