13 minuten Lesezeit

Um eine Plattform zu finden, die die Flexibilität bietet, Projektressourcen zu skalieren und die Kosten für einen innovativen, KI-gestützten, DEI-basierten digitalen Sprachassistenten besser zu kontrollieren
Migration eines API-Projekts zur Verarbeitung natürlicher Sprache (Python, mit Java-Server) auf die Upsun-PaaS
Advantage Group. Deutsche Bahn. Infineon. Publicis Media. Riverside Natural Foods. Swiss Life. Das Eidgenössische Departement für Verteidigung, Bevölkerungsschutz und Sport (DDPS). Diese vielfältigen Organisationen haben alle etwas geschäftskritisches gemeinsam: die Notwendigkeit, eine inklusive Arbeitskultur zu schaffen und aufrechtzuerhalten. Um sicherzustellen, dass inklusive Sprache auf allen Organisationsebenen angewendet wird, haben sie beschlossen, Witty – einen KI-gestützten digitalen Sprachassistenten – in ihre Programme für Diversität, Gerechtigkeit und Inklusion (DEI) zu integrieren.
Witty wurde vom Start-up Witty Works auf Platform.sh und der Upsun PaaS entwickelt und setzt unternehmensweite Inklusion in die Praxis um, indem es unbewusstes stereotyposes Denken und Vorurteile in der schriftlichen Kommunikation einfach und schnell erkennt – und den Nutzern in Echtzeit Feedback gibt. Indem es den Mitarbeitern ermöglicht, inklusiven Sprachgebrauch auf Basis der unternehmensinternen Sprachregeln konsequent anzuwenden, hat Witty bewiesen, dass es individuelles Verhalten und Unternehmenskulturen verändern kann.
Kannst es kaum erwarten, mehr über die technischen Details von Witty zu erfahren? Hier geht’s lang.
Als Nadia Fischer, CEO und Mitbegründerin von Witty Works, vor 12 Jahren in die Tech-Branche einstieg, war sie voller Energie und Begeisterung für die Innovationen, an denen sie nun teilhaben durfte. Doch mit der Zeit machte sie eine Beobachtung, die sie nachdenklich stimmte: In ihrem Unternehmen fehlte es an geschlechtlicher und geografischer Vielfalt. „Ohne mehr Diversität fehlten uns meiner Meinung nach wichtige Perspektiven“, sinniert Fischer. „Allgemeiner gesagt: Es gab zwar Initiativen, die Frauen und People of Color den Einstieg in die Tech-Branche erleichtern sollten, doch diese konzentrierten sich darauf, diesen Gruppen zu sagen, wie sie sich anders verhalten sollten, um in der Tech-Branche Fuß zu fassen. Das Problem lag nicht bei ihnen, sondern bei den Unternehmen, die diese Initiativen anführten.“
Im Jahr 2018 begann Fischer, Tech-Unternehmen zu beraten und Workshops anzubieten, um deren Initiativen für Diversität und Inklusion voranzutreiben. Das Ergebnis? „Enttäuschend“, sagt sie. Als die Unternehmen DEI zu einer reinen Abhak-Übung mit einem einzigen Workshop machten, vertiefte sich Fischer in Arbeitsweltforschung von Harvard-Professor Frank Dobbin und der Universität München.
In der Überzeugung, dass inklusive Sprache inklusive Kulturen schafft, war Fischer überzeugt, dass es eine Softwarelösung geben musste, um Frauen, People of Color, LGBTQIA+, Menschen mit Behinderungen und anderen Gemeinschaften zu mehr Inklusion zu verhelfen. Um herauszufinden, wie man diese Software-Herausforderung angehen könnte, lud Fischer den innovativen Entwickler und ehemaligen Kollegen Lukas Kahwe Smith ein, sich ihrem Team anzuschließen.
Als Smith, CTO und Mitbegründer von Witty Works, 2019 zu dem Unternehmen kam, das sich für DEI einsetzt, gab es dort noch keine DevOps-Ingenieure. „Ich komme mit der Serverwartung ganz gut zurecht, bin aber kein echter Experte“, erklärt Smith. „Vor allem hatte ich einfach keine Zeit, mich damit zu beschäftigen. Also haben wir von Anfang an Platform.sh genutzt.“
Da die PaaS-Plattform Platform.sh die Cloud-Infrastruktur, die Datendienste und die Sicherheit verwaltete, konnte Smith (ganz auf sich allein gestellt) seine technischen Kräfte auf die Entwicklung und Weiterentwicklung der Witty-App konzentrieren. „Ich war ziemlich zufrieden damit, die Entwickler-Tools von Platform.sh sowie meine eigenen Git-Workflows und meinen Tech-Stack zu nutzen“, erzählt Smith.
Zunächst entwickelte das Team ein minimal funktionsfähiges Softwareprodukt, das sich auf inklusive Sprache in Stellenanzeigen konzentrierte, um herauszufinden, ob es Marktinteresse geben würde – und das gab es. Dann starteten sie eine Finanzierungsrunde, und schon bald war Witty Works voll im Gange.
Das heißt, bis Smith und sein Team auf ein Hindernis stießen. Als sie begannen, die Machine-Learning-API von Witty in Python und Java zu entwickeln, stellten sie fest, dass sie ihre Ressourcen allein auf Platform.sh nicht so flexibel skalieren konnten, wie sie es brauchten.
„Als Start-up wurde die Ressourcenzuweisung für uns zu einer immer größeren Herausforderung, denn man will ja kein Geld für Ressourcen verschwenden, die man gar nicht nutzt“, sagt Smith. Dieses Dilemma war der Auslöser dafür, dass Smith sich nach anderen Optionen umsah.
Smith und sein Team machten sich auf die Suche nach einer robusten Lösung für ihre Ressourcenprobleme. Doch während der Recherche stellte er schnell fest, dass die Alternativen (siehe unten) „viel mehr DevOps-Arbeit erfordert hätten“.
Bevor Smith seine endgültige Entscheidung traf, erfuhr er von Upsun Cloud, einer neuen, vollständig verwalteten Self-Service-PaaS-Plattform, die auf Platform.sh basiert (damals noch in der Alpha-Phase). „Es klang so, als würde Upsun die Ressourcenprobleme lösen, mit denen wir zu kämpfen hatten, und perfekt zu uns passen“, sagt Smith.
Ein Proof of Concept auf der Upsun-PaaS diente Smith als Testumgebung für eine Witty-Anwendung, die er schnell zum Laufen brachte. „Meine Vertrautheit mit Platform.sh kam mir dabei zugute“, sagt er.
Upsun Cloud bot Smith genau das, wonach er gesucht hatte: eine Plattform, die den Ressourcenbedarf von benutzerdefiniertem Code, Microservices und KI-intensiven Projekten deckt. Er war zuversichtlich, die Witty-Produktionsumgebung in der ersten Hälfte des Jahres 2023 auf die Upsun-PaaS-Alpha-Version zu migrieren. „Die zugrunde liegende Technologie war vom ersten Tag an absolut stabil“, berichtet Smith.
Die NLP-API (Natural Language Processing) von Witty Works besteht aus einer maßgeschneiderten Python-FastAPI-Anwendung, die den Großteil der NLP-Analyse mithilfe der spaCy-Bibliothek und der maßgeschneiderten Regel-Engine von Witty Works übernimmt und zudem eine Java-Anwendung aufruft – alles wird in einem einzigen Upsun-cloud-Projekt gehostet, um schnellen und sicheren internen Netzwerkverkehr zu gewährleisten. Zur Erkennung von Fehlalarmen kommt ein maßgeschneidertes Machine-Learning-Modell auf Basis von PyTorch (gehostet auf AzureML) zum Einsatz.
Der Regeleditor ist eine maßgeschneiderte Python-Django-Admin-Anwendung, die von den Linguisten bei Witty Works genutzt wird, um die Konfiguration ihrer NLP-API-Regel-Engine zu pflegen. Diese Anwendung übernimmt auch die Überprüfung der Genauigkeit der Regeln, indem sie die NLP-API aufruft, um zu testen, ob sich die Regel wie beabsichtigt verhält.
Der Return on Investment von DEI-Maßnahmen muss messbar und geschäftsrelevant sein. Über das Witty-Dashboard können Mitarbeiter die Hervorhebung ihrer eigenen Texte und die ihres Teams konfigurieren; Analysen liefern Unternehmen Einblicke in das Schreibverhalten ihrer Teams – und in die am häufigsten vorkommenden, unbewussten Vorurteile im Team –, um zu verstehen, wie sich das Verhalten in Richtung Inklusion verändert hat, und um nachzuweisen, wie sich dieser Wandel auf ihr Geschäft ausgewirkt hat.
Die in ReactJS geschriebene Witty-Browsererweiterung lässt sich in den Browser integrieren und ermöglicht es Nutzern, mit der NLP-API zu interagieren. Basierend auf den Datenschutzeinstellungen des Nutzers überprüft die NLP-API den eingegebenen Text und versieht ihn automatisch mit Anmerkungen entsprechend der persönlichen und teambezogenen Konfiguration. Den Nutzern wird ein kurzer Lernbeitrag zu den dem Text zugrunde liegenden Vorurteilen angezeigt, und sie erhalten mögliche Alternativen zur Auswahl sowie die Option, tiefer in weitere Lerninhalte einzutauchen.
Als einer der ersten Nutzer von Upsun Cloud halfen Smiths Erfahrungen und sein wertvolles Feedback dem Upsun-Team dabei, aktuelle Produktfunktionen zu verfeinern und neue in Betracht zu ziehen. Hier sind die features, die derzeit für die Entwicklung von Witty am relevantesten sind.
Die flexiblen Ressourcen der Upsun Cloud ermöglichen es den Entwicklern von Witty Works, ihre Ressourcen und Nutzer sowohl auf Projekt- als auch auf Organisationsebene – pro Anwendung und pro Umgebung – zu verwalten. Die flexiblen Ressourcen sind selbstverwaltbar, hochgradig anpassbar und erfordern keinen manuellen Eingriff. Damit lösen sie die technologische Herausforderung des Teams und die finanzielle Herausforderung, vor der viele Start-ups stehen: das Beste aus jeder Investition herauszuholen.
Der Großteil der Geschäftskunden von Witty befindet sich in Europa und Nordamerika. Im Laufe eines Tages steigt die Auslastung 16 Stunden lang stark an, um dann 8 Stunden lang wieder abzunehmen, unterbrochen von zeitweiligen Nutzungsspitzen. Mit diesem sehr vorhersehbaren Zeitplan – und Echtzeit-Auslastungskennzahlen aus der Upsun Cloud-CLI – nutzt das Entwicklerteam Cron-Jobs, um die Anzahl der App-Instanzen entsprechend diesem Nutzungsmuster automatisch zu erhöhen oder zu verringern.
timezone: "Europe/Zurich"
crons:
# "Scale up at 07:30 on every day-of-week from Monday through Friday."
upscale:
spec: '30 7 * * 1-5'
commands:
start: |
if [ -n "${UPSUN_CLI_TOKEN}" ]; then
upsun resources:set -y --count app:${APP_UP_SCALE},java:${LANGUAGE_UP_SCALE}
fi
# "Scale down at 23:30 on every day-of-week from Monday through Friday."
downscale:
spec: '30 23 * * 1-5'
commands:
start: |
if [ -n "${UPSUN_CLI_TOKEN}" ]; then
upsun resources:set -y --count app:${APP_DOWN_SCALE},java:${JAVA_DOWN_SCALE}
fi
Mit den integrierten, sofort einsatzbereiten Observability-Tools der Upsun Cloud – einschließlich der blackfire-Unterstützung für Python – überwachen Smith und sein Team jede Komponente der Witty-Anwendung, erkennen Fehler und Anomalien und können Probleme schnell identifizieren und beheben, bevor sie zu größeren Hindernissen werden. Durch kontinuierliches Profiling in der Upsun Cloud-Konsole kann das Entwicklerteam außerdem genau feststellen, welche Teile ihrer Anwendung die meisten Ressourcen verbrauchen, und dann fundierte Entscheidungen zur Performance-Optimierung treffen.
Die hohen Standards der integrierten Sicherheit und Compliance der Upsun Cloud (einschließlich SOC 2 Typ 2, PCI DSS Level 1) – vollständig automatisiert und nach den Prinzipien des Shared-Responsibility-Modells verwaltet – geben Smiths Team mehr Zeit, sich auf den Anwendungscode und Innovationen zu konzentrieren. Keine Serverbereitstellung und keine Sicherheitspatches mehr.
Über die Witty-Browsererweiterung arbeitet Smith mit sensiblen Daten. Wo diese Daten verarbeitet werden, ist für die Kunden von Witty Works von entscheidender Bedeutung. „Wie wir die Daten sichern, ist eine zentrale Frage, die vor allem Unternehmenskunden während des Due-Diligence-Prozesses stellen“, erklärt Smith. „Geschäftskontinuität durch automatisierte backups und deterministische Bereitstellungsverfahren, die es uns im Katastrophenfall ermöglichen würden, in ein anderes Rechenzentrum zu migrieren – all das haben wir dank der zentralen Designprinzipien von Platform.sh.“
Das Witty Works-Team baut die Funktionen von Witty weiter aus und verbessert die Benutzererfahrung. Bald wird ein AngularJS-basiertes Word-Add-in es Nutzern ermöglichen, Inhalte direkt in Word zu markieren – egal, ob sie auf ihrem Desktop oder im Browser arbeiten. Eine logische Erweiterung? Add-Ins für unternehmensweite Kommunikationskanäle wie Outlook, Teams und Slack. Die verfügbaren Sprachen werden über Englisch und Deutsch hinaus auf Französisch und Spanisch erweitert, damit das Unternehmen neue Märkte erschließen kann. Auf der Grundlage von Forschungsergebnissen und Trends werden Sprachspezialisten weiterhin Vokabularien erstellen, um bestimmte Communities zu unterstützen.
„Als CTO eines noch kleinen Start-ups habe ich sowohl Entwicklungs- als auch Verwaltungsaufgaben, daher ist meine Zeit begrenzt“, erkl ärt Smith. „Der Umstieg auf eine Plattform, deren Wartung mehr Zeit in Anspruch genommen hätte, hätte bedeutet, dass ich meine Zeit in anderen Bereichen hätte reduzieren oder jemanden in Teilzeit einstellen müssen, um einige dieser zusätzlichen Aufgaben zu übernehmen.“
Mithilfe eines KI-gestützten Tools, das die Mitarbeiter täglich nutzen, unterstützt die SaaS-Lösung von Witty Works Unternehmen dabei, Teams mit Diversität und Inklusion aufzubauen und zu stärken, die Probleme lösen und Veränderungen durch Sprache vorantreiben.
Beratung, Finanzdienstleistungen, Globale Dienstleistungen, Industrieprodukte, Versicherungen, Logistik, Medien, Fertigung, Gemeinnützige Organisationen, Einzelhandel, Technologie

