Wo hört unsere Verantwortung auf?

Wer trägt die Verantwortung bei autonomen Fahrzeuge?

Im Diskurs um autonom fahrende Autos greift die Frage nach der Ethik von über einen Algo­rith­mus erstell­ten Entschei­dun­gen für das „gerin­gere Übel” im Falle eines nicht ver­mei­d­baren Unfalls meines Eracht­ens nach noch zu kurz. Zweifel­sohne ist dieser Aspekt im Vor­feld und — wenn möglich — sog­ar in der Soft­ware-Entwick­lung mitzu­denken. Wie Patrick Beuth in seinem Artikel aber richtig aus­führt, sehen wir uns weit­er­führend noch mit anderen Fra­gen — ins­beson­dere auch auf der Ebene der Geset­zge­bung und ‑voll­streck­ung — kon­fron­tiert: Ist ein Unfall mit einem autonom fahren­den Auto erst ein­mal passiert — wer ist ver­ant­wortlich, wer trägt die Fol­gekosten?

Ver­ant­wor­tung wird in diesem Zusam­men­hang das große Schlag­wort sein. Anzunehmen ist, dass sich die Auto­bauer von dieser los­sagen und ver­traglich absich­ern wer­den. Kann man jedoch dem/der Fahrer/-in eines selb­st­fahren­den Autos die „Schuld” und die sich daraus ergeben­den Kosten (ganz zu schweigen von der moralis­chen Ver­ant­wor­tung) für einen Unfall über­ant­worten, den er/sie — streng genom­men — nicht ver­schuldet hat?

Wer ist in dann aber in let­zter Kon­se­quenz der/die Ver­ant­wortliche, also der-/diejenige, der/die für die Fol­gekosten eines poten­ziellen Unfalls, eines Schadens aufkom­men muss? Räumt man einem Auto, einem Robot­er die Kom­pe­tenz ein, min­destens eben­so gute Entschei­dun­gen im Verkehr tre­f­fen zu kön­nen wie der Men­sch selb­st, muss man sich darüber im Klaren sein, dass man die Let­ztver­ant­wor­tung an eine Mas­chine abgibt. Dies stellt uns nun vor fol­gen­des Dilem­ma:

  • Für eine Mas­chine und deren Aus­führun­gen muss es einen Ver­ant­wor­tungsträger geben. Nach welchen Kri­te­rien würde jedoch ein solch­er definiert wer­den — und ist er in jedem Fall haft­bar? Ein sich anbi­etendes Beispiel wäre die lei­der nicht sel­tene Sit­u­a­tion eines Unfalls mit einem Kind, das — ob „schuldig” oder nicht — generell vom Ver­trauensgrund­satz ausgenom­men ist.
  • Für solch umfassende Entschei­dun­gen, wie sie im Verkehr notwendig sind, bedarf es — streng genom­men — intel­li­gen­ter, selb­st denk­ender Wesen. Sind selb­st­fahrende Autos aber schon als AI (kün­stliche Intel­li­genz) zu definieren bzw. müsste ihnen dementsprechend ein rechtlich­er Sta­tus, der dem des Men­schen annäh­ernd eben­bür­tig ist, eingeräumt wer­den? Sprich: Sind Maschinen/Roboter haft­bar? Und wenn ja, auf welche Weise, in welchem Aus­maß?

Als ele­men­tar erscheint in diesem Zusam­men­hang der Aspekt der Eigen­ver­ant­wor­tung. Bei autonom fahren­den Autos gibt der/die Fahrer/in näm­lich let­ztlich nicht die Ver­ant­wor­tung ab, wie man gerne glauben möchte. Vielmehr übern­immt er/sie Haf­tung für Sit­u­a­tio­nen, deren Abläufe nur noch begren­zt dem eige­nen Ein­fluss unter­liegen.

Was für Kon­se­quen­zen hat dieses Neu­ver­ständ­nis von Tech­nik aber für unsere Gesellschaft? Patrick Beuth zitiert in diesem Zusam­men­hang Kate Dar­ling, Exper­tin für Robot­erethik am MIT Media Lab in Cam­bridge. Sie ver­weist auf einen Aspekt, der schw­er­wiegende Fol­gen für das gesellschaftliche Ver­ständ­nis von und den Umgang mit Tech­nolo­gie an sich mit sich brin­gen kön­nen: „.(..) solche Unfälle und ihre Entste­hungs­geschichte kön­nten die öffentliche Wahrnehmung mas­siv bee­in­flussen. Das kann von Gericht­surteilen bis hin zu einem generellen Wider­stand gegen die Tech­nik reichen.”

Was also auf den ersten Blick wie ein begrüßenswert­er tech­nol­o­gis­ch­er Fortschritt wirkt, der mit einem Schlag eine Rei­he von Unzulänglichkeit­en des men­schlichen Fas­sungsver­mö­gens auszumerzen in der Lage zu sein scheint, kön­nte sich als Wolf im Schaf­spelz ent­pup­pen. Unsere Bere­itschaft, Ver­trauen in Tech­nolo­gie zu set­zen, die unsere Defizite zu kom­pen­sieren in der Lage ist, wäre dann unter Umstän­den ein Bumerang, der unser Mis­strauen im Bezug auf neue Tech­nolo­gien ver­fes­ti­gen und Inno­va­tio­nen den Weg block­ieren kön­nte.

Autonom fahrende Autos bergen ein enormes Poten­zial in sich; zweifel­sohne kön­nte diese Tech­nolo­gie unsere Gesellschaft explo­sion­sar­tig auf eine neue Entwick­lungsstufe befördern und uns ein kom­plett neues Ver­ständ­nis im Umgang mit dem bish­eri­gen Sta­tussym­bol Auto und dem ner­ve­naufreiben­den, aggres­sion­süber­frachteten „Wesen” Verkehr bescheren. Ohne von Smart­phones abge­lenk­ten und von der PS-Zahl ihrer Autos über­forderten Verkehrsteil­nehmern/-innen kön­nte die Unfall­sta­tis­tik in völ­lig neue Bah­nen gelenkt wer­den — im pos­i­tiv­en Sinne. Dieses neu zu beack­ernde Feld gilt es aber vorher genau abzusteck­en und vorzu­bere­it­en.

Es bleibt uns also nichts anderes übrig, als die rechtlichen Rah­menbe­din­gun­gen im Vor­feld aufs Genaueste auszuhan­deln, um den Gewinn, den die wis­senschaftliche  Errun­gen­schaften um autonom fahrende Autos für uns bedeuten kön­nen, nicht zu ein­er gerichtlichen Schlamm­schlacht wer­den zu lassen und uns in der Folge nicht in ein neues Mit­te­lal­ter zu kat­a­pul­tieren.

Quellen:

Patrick Beuth: Autonome Fahrzeuge: Wenn Soft­ware über Leben und Tod entschei­det.

Patrick Lin: The Robot Car of Tomor­row May Just Be Pro­gramm to Hit You.