Hallo Nick,

stell dich doch bitte einmal vor:

„Mein Name ist Nick Malter und ich arbeite bei der Münchner trail GmbH in der KI-Governance sowie in der Geschäftsentwicklung. Bei trail haben wir es uns zur Aufgabe gemacht, die Komplexität hinter vertrauenswürdigen KI-Systemen für Anwender und Entwickler zu verringern. Dabei helfen wir außerdem, viele der manuellen Prozesse in der KI-Governance und -Compliance zu automatisieren. So können sich Unternehmen auf einen effizienten und erfolgreichen Einsatz von KI fokussieren und ersparen sich die Mühen, bspw. EU AI Act Experten zu werden.“

Erklär uns doch bitte nochmal im Detail welches Problem trail löst?

„Man kann und sollte KI-Systemen nicht blind vertrauen, da sie gewisse Risiken bergen und – vor allem bei Missbrauch – Fehler produzieren können. Sowohl Entwickler als auch Anwender von KI-Systemen benötigen daher die richtigen Werkzeuge, um KI verantwortungsvoll einzusetzen. Hinzu kommen derzeit viele rechtliche Anforderungen beim Gebrauch von KI für Geschäftszwecke. Die trail GmbH bietet Ihnen dafür mittels einer Software-Plattform einen ganzen Werkzeugkasten an, damit Sie KI-Systeme zu Ihrem Vorteil nutzen können.“

Und mittels dieses Werkzeugkastens sind Unternehmen nun in der Lage Ihre KI-Systeme ethisch korrekt zu nutzen. Wie hängt damit die AI-Policy zusammen bzw. erkläre uns bitte was man unter einer AI Policy versteht?

„Eine “AI Policy” oder zu Deutsch eine “KI-Richtlinie” ist ein häufig verwendetes Instrument, um den verantwortungsvollen Umgang mit KI-Systemen innerhalb eines Unternehmens zu bestimmen. Sie ist also vergleichbar mit bereits existierenden Datenschutz- oder Informationssicherheitsrichtlinien, an welche sich vor allem die Beschäftigten eines Unternehmens halten müssen. Eine Richtlinie für KI-Systeme ist also eine Art Leitplanke für Ihre Belegschaft und kann so gewisse KI-Tools (z.B. ChatGPT) für die Arbeit untersagen oder vorgeben.

Die KI-Richtlinie ist ein guter Startpunkt für alle Unternehmen, die KI-Systeme einsetzen und bisher wenig oder keine KI-Governance-Prozesse haben. Die Software trail kann Ihnen bei der Erstellung einer personalisierten KI-Richtlinie, die den aktuellsten Industriestandards entspricht, weiterhelfen.“ 

Welche Voraussetzung müssen Unternehmen erfüllen, um euer Angebot bei trail zu nutzen?

„Die einzige Voraussetzung, um trail nutzen zu können, ist es, KI-Systeme entweder zu nutzen oder selbst zu entwickeln. Den größten Nutzen von der Software trail haben vor allem Organisationen, die der KI-Verordnung unterliegen (EU AI Act), KI-Systeme mit hohem Risiko einsetzen und KI-Systeme selbst entwickeln.“

Warum ist es überhaupt wichtig die Entscheidungen einer künstlichen Intelligenz nachvollziehen zu können?

„Ein Kernproblem von KI-Systemen, insbesondere von Hoch-Risiko-Systemen (z.B. in der Bewertung und Vergabe von Krediten oder Rekrutierung von Personal), ist es, dass automatisierte Entscheidungen oft unklar und intransparent sind. Das macht es schwierig, die Korrektheit von KI-Systemen einzuschätzen. Durch das Erfüllen gewisser Qualitäts- und Transparenzmerkmale – sowohl in der Entwicklung als auch beim Einsatz – kann man KI-Systemen die Vertrauenswürdigkeit zusprechen. Das ist Bestandteil einer effektiven KI-Governance. Weiterhin gibt es bereits gesetzliche Vorgaben, dass automatisierte Entscheidungen (ob KI oder nicht KI) für die betroffenen Personen erklärbar sein müssen.“

Wir wollen schließlich auch die Entscheidung unserer Mitmenschen verstehen und vertrauen diesen nicht blind. Den selben Anspruch sollten wir auch an KI-Systeme haben. Wenn ich KI-Entscheidungen verstehen, kann ich sie dann mit eurem Copiloten gezielt steuern oder das KI-System trainieren?

„Nein, mit der Software von trail ist es nicht möglich, KI-Systeme zu trainieren oder ihre Entscheidungen zu beeinflussen. Das ist die Aufgabe der Entwicklung. Allerdings kann trail bei der Überprüfung von Qualitätsmerkmalen der KI-Systeme, beim Risikomanagement und bei der Konformität zu KI-bezogenen Gesetzen unterstützen.“

Der Kunde eures Produktes ist also Entwickler und Anwender von KI, um rechtliche Rahmenbedingungen einzuhalten und eigene interne Vorgaben zu erstellen. Darf man das so zusammenfassen oder gibt es weitere Anwendungsmöglichkeiten?

„trail wird vor allem von Unternehmen in der EU verwendet, um ihre KI-Governance effektiv umzusetzen. Während Sie sich auf die Entwicklung oder Anwendung von KI-Systemen in Ihrem Unternehmen konzentrieren, erspart trail Ihnen Zeit und manuellen Aufwand, wenn es um die Konformität mit Richtlinien, wie dem EU AI Act, und das Schaffen von Vertrauen geht.

Unternehmen, die KI-Systemen von Dritten beziehen und einsetzen, profitieren mit trail vor allem durch das Erstellen von individuellen KI-Richtlinien, den Zugang zu grundlegenden KI-Schulungen, die Inventarisierung aller KI-Anwendungsfälle, inklusive Risikoklassifizierung und automatisierte Arbeitsabläufe in der Governance und Compliance.“

Bedeutet das wenn ich trail nutze, können Unternehmen problemlos jede beliebige KI einsetzen da im Hintergrund ein leistungsstarker Kontrollvorgang läuft der bei Verstößen Alarm schlägt?

„Die Governance-Plattform trail kann den verantwortungsvollen Einsatz von KI-Systemen fördern und noch vor dem produktiven Einsatz beim Treffen der geeigneten Maßnahmen helfen. Dennoch bleiben die Entwickler und Betreiber von KI in der Verantwortung, dass ihre KI-Systeme auch korrekt eingesetzt werden. Das ist auch so von der KI-Verordnung in der EU geregelt.“

Okay das heißt es bleibt eine gesunde Balance zwischen Mensch und Maschine im Arbeitsalltag bestehen. Mit welchem Arbeitsaufwand müssen Unternehmen rechnen, wenn Sie euren Copilot in Ihre Geschäftsanwendungen integrieren möchten?

„trail ist über jeden Browser als Web-App zu erreichen und kann daher ohne viel Voraufwand verwendet werden. Der größte Aufwand besteht darin, alle KI-Anwendungsfälle im Unternehmen mit den relevanten Informationen einzupflegen. Das wird aber durch die benutzerfreundliche Oberfläche von trail vereinfacht. Je größer Ihre Organisation, je mehr Anwendungsfälle Sie haben und je spezieller Ihre individuellen Anforderungen sind, desto größer ist auch der initiale Arbeitsaufwand. Dafür steht Ihnen aber das kompetente Team der trail GmbH jederzeit zur Verfügung.“

Existieren neben der professionellen Begleitung weitere Schulungs- oder Weiterbildungsangebote damit die Anwender des Copiloten ihn verlässlich nutzen können?

„Die Nutzer von trail besitzen üblicherweise ein (grundlegendes) technisches Verständnis über KI-Systeme oder sind vertraut mit Compliance-, Informationssicherheits- und Risikomanagement-Prozessen im Unternehmen. Teilweise kommen diese auch aus dem Datenschutz. Letztlich ist dies aber von Ihrer konkreten Situation und Teamkonstellation abhängig. Die Plattform von trail ist darauf optimiert, dass auch Personen mit wenig KI-Governance-Vorwissen diese erfolgreich bedienen können.“

Nick vielen Dank für deine Zeit. Hat uns sehr Spaß gemacht mehr über den Copiloten der trail GmbH zu erfahren.Rechtliche Herausforderungen müssen beim Einsatz von künstlicher Intelligenz im Einzelhandel beachtet werden, andernfalls kann das zu großen finanziellen Schäden führen. Wenn auch Sie in Ihrem Unternehmen KI sinnvoll einsetzen möchten, um Prozesse zu automatisieren und effizienter zu gestalten, sind wir von ai Pro Solution der ideale Partner für Sie. Wir beraten Sie umfassend und praxisnah zu den besten KI-Lösungen für Ihr Unternehmen. Kontaktieren Sie uns gerne!