KI in der ERP-Welt verstehen – Wie SoftENGINE Mitarbeitende und Kunden auf den EU AI Act vorbereitet

Herzliche Begrüßung an Sie als Geschäftsführerin oder Geschäftsführer. Mal ehrlich, wetten wir, Ihre Teams nutzen längst KI. Täglich? Absolut. Oft ja, sogar ganz unbewusst in Office Paketen, vielleicht Marketing Software. im ERPSystem sogar. Ganz genau. KI ist im Arbeitsalltag voll angekommen. Das ist keine Zukunftsmusik mehr. Aber äh Achtung, seit 2025 gilt ja der EU AI Act. Ah, richtig. Und der bringt eine ja ganz entscheidende neue Pflicht für Sie mit.

Eine Pflicht. Okay, das klingt wichtig. Gerade weil KI ja oft so, na ja, nebenbei läuft. Worum geht's da genau? Also, der AI Act schreibt vor. Ganz klar: "Unternehmen müssen sicherstellen, dass ihre Mitarbeiter im Umgang mit KI geschult" und das meint eben nicht nur die KI Entwickler, sondern explizit die Anwender, also praktisch alle bei Ihnen im Unternehmen. Alle Anwender. Ja, es geht darum, die Risiken zu kennen und eben verantwortungsvoll damit umzugehen. Okay, das leuchtet ein. Welche Risiken sind das denn vor allem? Was muss wirklich jeder im Team wissen, um da auf der sicheren Seite zu sein?

Also ganz oben auf der Liste steht der Datenschutz. Die goldene Regel ist niemals sensible Unternehmensdaten – Also wirklich Geschäftsgeheimnisse, Kundendaten, Passwörter, interne Strategien – niemals in externe freizugängliche KI Tools eingeben. Okay, viele dieser Tools, die man so kennt, die verarbeiten die Daten ja auf externen Servern, oft auch außerhalb der EU. Das heißt, die Kontrolle über die Daten ist dann einfach weg. Genau. Futsch. Deshalb ist Datensparsamkeit wirklich das A&O. Übrigens auch bei Daten Dritter, also Fotos von Kollegen oder Kunden, die darf man auch nur mit ausdrücklicher Einwilligung hochladen.

Verstehe. Und was ist mit diesen Fehlern? die KIs machen können. Man hört ja immer von Halluzinationen. Ja, das ist ein weiteres großes Risiko. KIs kann manchmal Informationen ausgeben, die klingen total überzeugend, sind aber komplett frei erfunden. Oh je. Ja, das kann natürlich fatal sein, wenn solche Falschinfos unbemerkt in wichtige Geschäftsentscheidungen einfließen. Genauso problematisch ist auch Bias, also Verzerrungen, wenn die KI unbewusst Vorurteile aus den Trainingsdaten übernimmt.

Das unterstreicht ja nur, wie wichtig die menschliche Kontrolle bleibt, oder? nicht einfach blind vertrauen. Unbedingt. Der AI Act fordert das auch explizit. Die menschliche Aufsicht. Kein KI Ergebnis darf ungeprüft übernommen werden. Die finale Verantwortung, die liegt immer beim Menschen, nicht bei der Maschine. Und wenn man sich nicht dran hält, tja, das sollte man ernst nehmen. Verstöße gegen den AI Act werden Bußgelder bis zu 35 Millionen Euro drohen da oder 7% des weltweiten Jahresumsatzes.

, das ist ist eine klare Ansage. Also die Pflicht zur Schulung und die Risiken sind deutlich. Das klingt nach ja konkretem Handlungsbedarf. Was sind denn jetzt die praktischen Schritte für Unternehmen? Im Grunde sind es vier Kernschritte. Erstens eine Bestandsaufnahme. Wo genau im Unternehmen wird KI überhaupt eingesetzt? Auch die kleinen Tools. Ja. Okay. Zweitens, eine Risikobewertung dieser Anwendungen. Gemäß den Vorgaben des AI Act. Drittens, Und das ist zentral. Verpflichtende Schulungen für alle potenziellen Nutzer.

Fokus muss hier auf den Risiken liegen. Datenschutz, rechtliche Grundlagen und eben diese unerlässliche menschliche Kontrolle. Und viertens, viertens, alles sauber dokumentieren. Welche Systeme sind im Einsatz? Welche Schulungen wurden durchgeführt? Das ist der Nachweis, wenn man jemand fragt. Das ist ein klarer Fahrplan. Gibt es denn schon Unterstützung am Markt, um gerade diese Schulungspflicht zu erfüllen? Ja, die gibt es. Anbieter wie z.B. Soft Engine gehen da schon voran. Die bieten spezielle Online Zertifikatsschulungen an via Zoom, die genau auf diese Anforderungen des AIs für Anwender zugeschnitten sind. In dem Fall für Nutzer ihrer ERP Suite.

Interessant. Soft Engine. Die haben noch auch diesen KI Assistenten entwickelt. NGP. Richtig. Passt der in dieses Bild einer sicheren Anwendung? Ja, ENGPT ist tatsächlich ein gutes Beispiel, ein Beispiel dafür, wie man KI Datenschutzkonform und Fokus im Unternehmenskontext einsetzen kann. Wie funktioniert das genau? Der Assistent beantwortet Fragen rund um die Soft Engine ERP Suite. Das entscheidende dabei ist, er greift ausschließlich auf gesichertes Wissen aus dem Softengine Universum zurück, also Wiki, Schulungsunterlagen, Support Dokus, solche Sachen.

Ah, okay. Und ganz wichtig, er verarbeitet keine sensiblen Unternehmens oder Kundendaten aus dem EAP-System des Anwenders selbst. Das heißt, das Risiko beim Datenschutz ist da minimiert. Genau. Erheblich minimiert. und gleichzeitig fördert es das selbstständige Arbeiten der Mitarbeiter. Das klingt nach einer sehr praxisnahen Lösung, die dieses Datenschutzrisiko direkt adressiert. Gibt's da schon Stimmen aus der Praxis, Erfahrungen? Ja, gibt es. Ein Anwender hat uns z.B. berichtet, das zeigt den Nutzen sehr schön, finde ich, dank ENGPT konnte sich unsere neue Mitarbeiterin im Finanzwesen ganz selbständig einarbeiten.

Aha. Und sie hat eigenständig das Mahnwesen komplett eingerichtet, inklusive Funktionen, die wir vorher nie genutzt haben. Wow. Er sagt, Ohne die KI Unterstützung hätten wir das nie so schnell und effizient geschafft. Ein echter Gamechanger für unsere Abläufe. Das ist beeindruckend. Fassen wir also noch mal zusammen. Der kompetente und vor allem rechtskonforme Umgang mit KI ist spätestens mit dem EUAI Act Pflicht geworden. Richtig. Und Mitarbeiterschulungen sind da wohl der entscheidende Hebel, um die Risiken im Griff zu behalten und eben rechtssicher zu bleiben. KI ist damit endgültig kein Spielzeug mehr, sondern ein strategisches Werkzeug mit klaren Regeln.

Genau. Und wer diese Regeln kennt und anwendet, der kann die enormen Potentiale, die KI zweifellos bietet, auch wirklich sicher nutzen für sich und sein Unternehmen. Die entscheidende Frage für Sie ist also jetzt: Wie stellen Sie sicher, dass Ihr Team die Chancen von KI nicht nur erkennt, sondern sie auch sicher und ja gesetzeskonform einsetzt? Ein möglicher nächster Schritt könnten z.B. die Zertifikatsschulen von Soft Engine sein, die ab September angeboten werden. Welchen ersten konkreten Schritt gehen Sie vielleicht schon morgen an, um Ihr Team fit für die KI Zukunft zu machen?