Verantwortungsvolle KI Entwicklung im Fokus von Pryon CEO Igor Jablokov

In einer Welt, in der die Entwicklung künstlicher Intelligenz (KI) rasant fortschreitet, wachsen auch die ethischen Bedenken hinsichtlich ihrer Entwicklung und Implementierung. Igor Jablokov, CEO und Gründer des KI-Unternehmens Pryon, nimmt sich diesen Fragen an und setzt sich für eine verantwortungsvolle Zukunft der KI ein.

Pryons Ursprünge lassen sich bis zu den ersten Anfängen der modernen KI vor über zwei Jahrzehnten zurückverfolgen. Jablokov leitete einst ein fortschrittliches KI-Team bei IBM, das eine primitive Version des späteren Watson entwickelte. Nachdem sein Projekt nicht weiterverfolgt wurde, gründete er Pryon, das später von Amazon übernommen und zur Grundlage von Alexa wurde.

Das aktuelle Unternehmen Pryon konzentriert sich auf die ethischen Herausforderungen der KI und setzt dabei auf verantwortungsvolles Design, insbesondere in kritischen Infrastrukturen und bei Anwendungen mit hohen Einsätzen. Jablokov erläutert, dass Pryon etwas erschaffen wollte, das speziell für wichtigere Infrastrukturen und die Bedürfnisse essenzieller Arbeitskräfte ausgerichtet ist. Ein zentrales Element ist dabei die Flexibilität und Kontrolle, die Unternehmen über ihre Daten haben sollen. Pryon bietet unterschiedliche Optionen an, von der öffentlichen Mehrmandanten-Cloud bis hin zu privaten Cloud-Lösungen oder On-Premises-Implementierungen, was es Organisationen ermöglicht, sensible Daten hinter ihren eigenen Firewalls zu schützen.

Ein besonderer Fokus liegt auf erklärbarer KI und überprüfbarer Zuordnung von Wissensquellen. Wenn die Plattform eine Antwort liefert, kann diese nachverfolgt und auf die ursprüngliche Informationsquelle zurückgeführt werden, was menschliche Validierung des Wissens ermöglicht. In manchen Bereichen wie Energie, Fertigung und Gesundheitswesen hat Pryon menschliche Überwachungsschleifen implementiert, bevor KI-generierte Anleitungen an die Mitarbeitenden weitergeleitet werden.

Jablokov setzt sich stark für neue regulatorische Rahmenbedingungen ein, um eine verantwortungsvolle Entwicklung und Einführung von KI zu gewährleisten. Er begrüßt zwar die kürzlich von der US-Regierung erlassene Exekutivverordnung, äußert jedoch Bedenken hinsichtlich der Risiken im Zusammenhang mit generativen KIs wie Halluzinationen, statische Trainingsdaten, Datenlecks, fehlende Zugangskontrollen und Urheberrechtsfragen.

Die Beteiligung von Pryon an regulatorischen Diskussionen zeigt sich auch in der aktiven Mitgestaltung des regulatorischen Umfelds. Das Unternehmen leistet Beiträge zur Diskussion über die Nutzung generativer KI und betont dabei die damit verbundenen Risiken.

In Bezug auf das potenzielle, unkontrollierte "KI-Risiko", vor dem einige KI-Führungskräfte gewarnt haben, gibt sich Jablokov zuversichtlich bezüglich des kontrollierten Ansatzes von Pryon. Er betont, dass Pryon stets auf überprüfbare Zuordnung hinarbeitet und Inhalte aus den eigenen Beständen der Unternehmen extrahiert, damit diese entscheiden können, ob sie darauf basierende Entscheidungen treffen möchten oder nicht.

Pryons Mission unterscheidet sich deutlich von der neueren Generation offener konversationaler KI-Assistenten, die zum Teil aufgrund von Halluzinationen und ethischen Bedenken für Kontroversen gesorgt haben. Jablokov betont die Wichtigkeit von Fachwissen und emotionaler Intelligenz bei Entscheidungen mit hohen Einsätzen in der realen Welt.

Auf der bevorstehenden AI & Big Data Expo wird Pryon neue Unternehmensanwendungsfälle vorstellen, die seine Plattform in Branchen wie Energie, Halbleiter, Pharmazie und Regierung zeigen. Auch neue Konsummodelle für die Pryon-Plattform werden enthüllt, die möglicherweise Entwicklern einen niedrigeren Zugangsebene bieten.

Die ethischen Risiken der KI zu adressieren wird in dem Maße wichtiger, wie sich das Anwendungsfeld der KI von spezifischen zu allgemeinen Fähigkeiten ausweitet. Pryons anhaltender Fokus auf Governance, überprüfbare Wissensquellen, menschliche Aufsicht und Zusammenarbeit mit Regulierungsbehörden könnte eine Vorlage für eine verantwortungsvolle KI-Entwicklung in verschiedenen Industrien bieten.

Quellen:
- Ryan Daws, TechForge Media, „Igor Jablokov, Pryon: Building a responsible AI future“, April 25, 2024
- Pryon (2023). „Letter from Pryon CEO“
- LinkedIn, Igor Jablokov: „Bringing AI to Life and Embracing Community Support“, März 17, 2023
- Toolify, „Unleashing the Future of AI: A Conversation with Pryon's CEO“, Februar 23, 2024
- MarketScale, „AI Copyright Clash: The Future of AI Tools Could Hinge on the Result of The New York Times Legal Battle with OpenAI“, Januar 19, 2024