IBM trainiert künstlicher Intelligenz ethische Grundsätze an

Das Thema künstliche Intelligenzen, die im schlimmsten Fall die Weltherrschaft übernehmen, gar autonom Waffen steuern und ohne jegliche Moral und Ethik selbständig agieren, wird allenthalben – beispielsweise auch im neuen Buch von Frank Schätzing – diskutiert. Deshalb ist es wichtig, das Thema zu diskutieren. Und deshalb sind die Anbieter von Systemen künstlicher Intelligenz ganz besonders gefragt, sich neben dem wichtigen Thema Datenschutz, auch mit künstlicher Intelligenz und Ethik auseinanderzusetzen und hier Lösungswege zu erforschen.

IBM Research haben ein entsprechendes Projekt gestartet, das genau das tut. Es ist erst ein Anfang, aber es ist extrem wichtig und aus meiner Sicht notwendig das Thema voranzutreiben. Man hat damit begonnen, ein System zu entwickeln, dass es Eltern erlaubt, moralische Regeln vorzugeben, welche Filme die Kinder sehen dürfen. Dabei geht man über einfache Regeln hinaus, deren Funktionalität limitiert ist.

“It’s easy to define an explicit rule set,” said Nicholas Mattei, researcher at IBM. “But in a lot of the stuff on the internet, in areas with vast amounts of data, you can’t always write down exactly all the rules that you want the machine to follow.”

To solve this problem, the method Mattei and his colleagues have developed uses machine learning to define rules by examples. “We thought that the idea of learning by example what’s appropriate and then transferring that understanding while still being reactive to the online rewards is a really interesting technical problem,” Mattei said.

via IBM researchers train AI to follow code of ethics

Man habe das Thema moralisch-ethische “einwandfreie” Filme empfehlen genommen, weil es bereits eine Menge gäbe und es ein Gebiet sei, in dem die Diskrepanz zwischen vermeintlichem “Anwenderwunsch” und ethischer Norm oft sehr offensichtlich sei. Wie gesagt, ein Experiment, aber ein notwendiges und interessantes. Mehr dazu in dem verlinkten Artikel und sicher in weiteren Berichten. Gerne auch Kommentare zum Thema hier auf CIOKurator.

(Stefan Pfeiffer)

Kommentare sind sehr willkommen

This site uses Akismet to reduce spam. Learn how your comment data is processed.