Aus einer Flasche kann nur so viel Wasser rausfließen, wie vorher eingefüllt wurde. Um das zu verstehen, braucht der Mensch kein physikalisches Wissen, es reicht der Hausverstand. Für Künstliche Intelligenz (KI) ist das aber nicht so einfach nachzuvollziehen.
Forschende der Universität Linz haben nun einem selbstlernenden System das Massenerhaltungs-Prinzip eingebaut.
Es beachtet dadurch physikalische Gesetze und vermeidet Fehler durch "Hausverstand", teilte die Uni mit.
So manche Entscheidung von Maschinen mittels KI hat sich bereits als diskriminierend oder rassistisch erwiesen. So wurden Menschen mit Migrationshintergrund als weniger kreditwürdig eingestuft, von Polizeicomputern häufiger verdächtigt oder sie bekamen von sozialen Plattformen Angebote für schlechtere Jobs oder Wohnungen. Microsoft musste einen Chatbot nach kurzer Zeit vom Netz nehmen, weil Nutzer ihn dazu brachten, den Holocaust zu leugnen und Schwarze zu beleidigen.
Für dich ausgesucht
Einer der Gründe dafür ist, dass die selbstlernenden Systeme durch vorhandene Daten lernen und Korrelationen in den Daten nützen - auch wo kein Zusammenhang besteht oder ein solcher nicht gewollt oder sinnvoll ist. Das passiert auch bei anderen Einsatzgebieten von KI, etwa wenn solche Systeme physikalisch unmögliche Ereignisse vorhersagen, die man mit physikalischem Hausverstand eigentlich ausschließen könnte.
So hatte ein Forscherteam von dem von Sepp Hochreiter geleiteten Artificial Intelligence (AI) Lab am Linz Institute of Technology (LIT) eine KI zur Vorhersage von Hochwasser entwickelt, die anhand bisheriger Niederschläge sehr präzise künftige Hochwasserereignisse prognostiziert. "Allerdings konnten wir für die KI nicht garantieren, dass die Wassermengen im System exakt erhalten blieben", so Frederik Kratzert vom AI Lab. Dadurch sagte die KI manchmal Hochwasser voraus, obwohl gerade Trockenheit herrschte.
Für dich ausgesucht
Nun ist es den Wissenschaftern in eineinhalbjähriger Arbeit gelungen, dem System physikalische Gesetzmäßigkeiten einzubauen, die es schon beim Lernen beachten muss. Aufbauend auf dem von Hochreiter entwickelten neuronalen Netz LSTM (Long Short-Term Memory) wurde der KI das Massenerhaltungs-Prinzip eingebaut, wonach sich die Gesamt-Masse eines abgeschlossenen Systems nicht ändert. "Die KI unterscheidet hier nicht zwischen Massen- oder Energieerhaltung, sondern kennt nur Größen, die sie exakt erhalten soll", erklärte Studienautor Günter Klambauer vom AI Lab gegenüber der APA. Mit einem Training auf sehr genaue Daten könnte die KI aber sogar Umwandlungen von Masse in Energie feststellen.
Die neu entwickelte KI, die die Wissenschafter demnächst bei einer der drei wichtigsten Machine Learning Konferenzen (International Conference on Machine Learning) vorstellen, erkennt dadurch physikalisch unmögliche Ergebnisse und vermeidet bei ihren Hochwasserprognosen, dass Wassermengen verschwinden oder neu erfunden werden. Sowohl bei der Hochwasservorhersage als auch bei Verkehrsanalysen für Berlin, Moskau und Istanbul hat sich die neue Methode bereits bewährt.
"Da sich die KI an physikalische Gesetze halten muss, bekommen wir auch robustere Ergebnisse - auch wenn wenig Daten verfügbar sind oder wenn sich die KI in einer ganz neuen Situation befindet", so Klambauer. Die Probleme von KI mit Vorurteilen und Verzerrungen löst das zwar nicht, aber zumindest bei den physikalischen Prinzipien arbeiten die Wissenschafter weiter an Generalisierungen im mehreren Richtungen. So sollen in die Systeme - je nach Anwendung - noch mehr Eigenschaften eingebaut werden. Als konkrete Anwendung nennen sie eine weitaus exaktere Vorhersage der CO2-Belastung in der Atmosphäre durch die neue Methode.