Die Erklärbarkeit von KI-Anwendungen ist wichtig, insbesondere, wenn sie zur Entscheidungsfindung eingesetzt wird. Hier setzt die geplante KI-Anwendung der Fachhochschule Erfurt und der ADICOM Software KG an: Bisherige KI-Anwendungen können lediglich Hypothesen bilden, diese jedoch (noch) nicht erklären. Mit Hilfe von Sprachsynthese möchte das Projektteam erreichen, dass hypothetische Datenbeziehungen der KI nachvollziehbar und transparent erklärt werden können. Dadurch soll die Entscheidung, die durch die KI-Anwendung generiert wird, geprüft und Fehler verhindert werden.
Hyper KI – Hypothesenbildende erklärbare KI
Weswegen seid ihr ein starkes Team?
Wir arbeiten leidenschaftlich, verstehen uns blind und ergänzen uns durch Künstliche Intelligenz-Kompetenzen aus Wissenschaft und Wirtschaft. Unser Team besteht aus einem KMU, das als eines der besten Informationstechnik-Dienstleister Deutschlands ausgezeichnet wurde, einem Chief Scientific Officer, der vor innovativen Ideen sprüht und von interessierten Followern weltweit geachtet wird, sowie einer Fachhochschul-Professorin, die ihre Faszination für Künstliche Intelligenz mit Studierenden teilt, Methoden praktisch erforscht und als Gutachterin viele Konzepte kennt.
Eure Idee in drei Sätzen erklärt.
Eine lernende KI, die für eine nachvollziehbare Mensch-KI-Kooperation ihre Hypothesen erklärt, benötigt Sprache. Für das Sprachelernen verwenden wir das Verfahren „Identification by Enumeration" (Gold, 1967) als Basis und konzipieren Hypothesenräume (HR), die sich während des Lernprozesses verändern können. Ziel ist es nun, dass die KI während des Lernens expliziert, wie sie Hypothesen findet, welche weiteren Informationen sie benötigt und warum ein aktueller HR modifiziert werden muss.
Was macht eure Idee besonders?
Die Idee basiert auf fundamentalen Theorien, berücksichtigt innovative Trends und kombiniert Ansätze aus verschiedenen Wissenschaftsdisziplinen in neuer Art und Weise. Sie erfordert ein Weiterdenken und ein Anwenden symbolischer KI, induktive Inferenz und verschiedener Sprachmodellierungen. Sie benutzt „stop words“ als semantische Wegweiser in Sätzen und in der natürlich sprachlichen Kommunikation. Sie betrachtet die KI als Gestalterin des Lernprozesses und berücksichtigt explizit negative Beispiele.
Wie geht’s jetzt weiter?
Unsere gerade erstellte Experimentierumgebung in Python hilft, das Verfahren „Identification by Enumeration“ zum Sprachelernen weiterzuentwickeln und HR zu untersuchen. Die Ergebnisse der Experimente provozieren uns zu neuem Denken mit weitreichenden Erkenntnissen und einer verfeinerten Projektkonzeption. Die nächsten Schritte sind das systematische Auswerten der Erkenntnisse, die Fokussierung der Experimente auf konkrete Forschungsfragen und die gezielte Erweiterung der Experimentierumgebung.
Kontakt zum Projektteam
- Ansprechperson: Prof. Dr.-Ing. Oksana Arnold
- E-Mail: oksana.arnold@fh-erfurt.de
- Website: www.ai.fh-erfurt.de/arnold
