Neuronales Netzwerk in unter einer Sekunde

Go-Live am 1. September mit offener Anmeldung
Die Firma One Ware hat für den 1. September den offenen Start von One AI angekündigt. Das ist eine automatisierte KI-Extension für die Open Source-Entwicklungsumgebung One Ware Studio. Ab diesem Datum können sich interessierte Entwickler kostenfrei registrieren, eigene KI-Modelle trainieren und ein Startguthaben im Wert von 500 Euro nutzen, das erfahrungsgemäß für etwa 20 bis 30 Trainingsläufe ausreicht. Trainierte Modelle lassen sich mit einer 30 Tage gültigen Testlizenz exportieren und auf unterschiedlichen Zielsystemen evaluieren. Der Ablauf ist so gestaltet, dass einzelne Entwickler oder Entwicklerteams ohne vorherige KI- oder Hardware-Expertise unmittelbar produktiv werden. Ein geführter Workflow mit sinnvollen Voreinstellungen übernimmt die KI-spezifischen Entscheidungen und führt von der Idee zur Umsetzung.

Hier geht es zur Anmeldung: https://cloud.one-ware.com/Account/Register

Die Entwicklung von KI in der Industrie steht bislang vor einem grundlegenden Zielkonflikt: Entweder greifen Unternehmen auf universelle Modelle zurück, die ursprünglich für generische Aufgaben entwickelt wurden, oder sie investieren in dedizierte Data-Science-Teams, die neuronale Netze manuell entwickeln. Beide Ansätze sind mit Nachteilen verbunden.

Universelle Modelle sind nicht auf spezifische industrielle Anforderungen oder Hardwarearchitekturen abgestimmt. Sie sind meist so konzipiert, dass sie ein breites Spektrum an Aufgaben abdecken können. Um eine solche Generalität zu erreichen, sind sie strukturell sehr komplex und enthalten zahlreiche Schichten, Parameter und Verarbeitungspfade, die für die jeweilige Zielanwendung teilweise nicht relevant sind. Diese Pfade sind jedoch fest in die Architektur integriert, werden bei jeder Inferenz aktiviert und müssen berechnet werden. Eine selektive Nutzung findet nicht statt. der zusätzliche Rechenaufwand sowie verlängerte Ausführungszeiten sind kaum vermeidbar.

Unspezifisch und negative Einflüsse

Die Hoffnung besteht, dass irrelevante Pfade die Modellgenauigkeit nicht negativ beeinflussen. Gleichzeitig lernen solche komplexen Modelle häufig irrelevante Eigenschaften eines Datensatzes, während zentrale Merkmale unberücksichtigt bleiben, da die universelle Architektur nicht alle anwendungsspezifischen Anforderungen abbilden kann. Dies kann sich negativ auf die Generalisierungsfähigkeit und die Ergebnisqualität auswirken und führt mitunter zu schlechteren Resultaten trotz hoher Modellgröße und Ressourceneinsatz.

Bild1 Produktfoto

Benutzeroberfläche von One AI: Von der Hardware-Auswahl bis zur fertigen und optimierten Netzwerkarchitektur in wenigen Klicks. – Bild: One Ware GmbH

Fachleute sind teuer und rar

Die manuelle Entwicklung individueller Modelle wiederum benötigt Wochen bis Monate an Zeit, erfordert spezialisiertes Fachpersonal und tiefgehende Kenntnisse über Architekturen und Hardwareanpassungen. Genau dieses Knowhow ist im industriellen Umfeld oft nur in begrenztem Umfang vorhanden. Deshalb greifen Unternehmen vielfach auf universelle Modelle zurück – nicht unbedingt, weil sie die technisch beste Wahl wären, sondern weil es an ausreichenden Fachkräften fehlt, maßgeschneiderte Systeme effizient zu entwickeln und produktiv einzubinden.

Plattform zur automatisierten Architekturgenerierung

Das Unternehmen One Ware versucht diesen Zielkonflikt durch eine Automatisierungstechnologie zu lösen: One AI ist nach Herstellerangaben eine Plattform, die automatisiert neuronale Netzwerkarchitekturen erzeugt, individuell zugeschnitten auf Anwendung, Daten und Zielhardware. Ein zentrales Merkmal des Systems ist seine Fähigkeit, auch auf über zehn Jahre alter Industriehardware Modelle sofort ausführbar zu machen – ohne aufwendige Optimierungsschritte. Statt ein bestehendes Modell zu modifizieren oder Transfer Learning einzusetzen, generiert One AI bei jedem Durchlauf ein neues, auf die Zielhardware abgestimmtes Netzwerk. Dieser Vorgang soll weniger als eine Sekunde benötigen und keine speziellen KI-Kenntnisse erfordern.

Achitekturprognosen und Ressourcenzuweisung

Grundlage ist eine Architekturvorhersage-Engine, die wissenschaftliche Prinzipien und analytische Berechnungen mit eigenen heuristischen Modellen kombiniert. Analysiert werden Zielmetrik, Hardwareprofil, Daten- und Anwendungstyp; daraus prognostiziert das System relevante Parameter wie Netzwerktiefe, Topologie, Rechenpräzision und Laufzeitvorgaben. Nach Angabe der Zielhardware kann der Nutzer definieren, wie viele Ressourcen genutzt werden dürfen und welches Verhalten bei Laufzeit oder Modellgröße angestrebt wird. Auf dieser Basis berechnet die Plattform eine passende Architektur.

Andere Verfahren am Markt arbeiten meist nach Trial-and-Error-Prinzipien und benötigen mehrfaches Training verschiedener Varianten. Dabei wird der Suchraum oft reduziert, indem ein Basismodell zugrunde liegt, dessen Hyperparameter variiert werden. Passt dieses Ausgangsmodell nicht, liefern auch Optimierungen keine verwertbaren Ergebnisse. In diesem System wird dagegen bei jedem Durchlauf eine neue Architektur generiert, wodurch Limitierungen solcher NAS-Ansätze umgangen werden sollen.

Die Gründer von One Ware.
Die Gründer von One Ware. – Bild: One Ware GmbH

Technologiepartnerschaft mit Altera

Mit diesen Eigenschaften konnte One Ware den Chiphersteller Altera als Partner gewinnen. Die Kombination aus der Architekturvorhersage und der Rechenstruktur von FPGAs könnte eine skalierbare und ressourcenschonende Nutzung ermöglichen, auch auf älteren Chips. Durch Anpassungen an die vorhandene Hardware sollen Systeme mit begrenzten Ressourcen in Anwendungen integriert und die Nutzungsdauer bestehender Hardware verlängert werden können.

„Die Zusammenarbeit mit One Ware zeigt das Potenzial, das entsteht, wenn KI-Entwicklung auf FPGA-Technologie trifft. Sie hebt unsere Max 10-Plattform auf ein neues Niveau – wir liefern nicht nur geeignete Anwendungen, sondern bauen gemeinsam Systeme, die effizienter und in der Praxis nutzbar sind. Diese Partnerschaft steht für eine Generation industrieller KI: skalierbar, ressourcenschonend und breit einsetzbar,“ sagt Mark Moran, Director of Boards, Development Kits, and Partners bei Altera.

Leistung in der Praxis

Die Leistungsfähigkeit ist laut Whitepaper in einem Projekt zur Qualitätskontrolle von Kartoffelchips validiert. Dort wurde ein von One AI generiertes Modell mit einem klassischen VGG19-Modell auf einem Nvidia Jetson Orin Nano verglichen. Während das Standardmodell eine Genauigkeit von 88 Prozent bei etwa 10W Leistungsaufnahme erreichte, soll das One AI-Modell 99,5 Prozent bei 0,5W erzielt haben. Die Architektur wurde für einen Altera Max 10 FPGA mit 16K Logikelementen erstellt, benötigte 6.750 Parameter und 0,0175 GOPs und arbeitete mit 1.736 FPS. Das entspricht einer mehrfachen Beschleunigung und Effizienzsteigerung gegenüber der GPU-basierten Anwendung – bei reduzierter Bildgröße und Netzarchitektur.

Altera Max 10 FPGANvidia Jetson Orin NanoFPGA-Vorteil gegenüber GPU
KI-ModellOne AI von One WareVGG19
Testgenauigkeit99,5 Prozent (INT8)88 Prozent (FP32)24x höhere Genauigkeit
Leistungsaufnahme0,5W10W20x geringerer Energieverbrauch
Abmessungen11x11mm70x45mm26x kleinere Baugröße
Kosten45 Euro250 Euro6x geringere Kosten
Leistung1.736 FPS (INT8)24 FPS (FP16)72x höhere FPS
Latenz0,086ms42ms488x geringere Latenz
Benchmark-Vergleich zwischen einem von One AI generierten Modell auf Altera Max 10 FPGA und einem klassischen VGG19-Modell auf Nvidia Jetson Orin Nano.

Industrieller Einsatz und Ausblick

Der Oberflächenspezialist HDO nutzt die Technologie inzwischen für die Qualitätskontrolle von Hochglanzprodukten. Innerhalb weniger Wochen konnten Fehler automatisiert erkannt werden – Prozesse, die bislang deutlich mehr Zeit beanspruchten. „Die Zusammenarbeit mit One Ware war vom ersten Tag an pragmatisch und zielgerichtet. Mit KI-gestützter Bildverarbeitung konnten wir in kurzer Zeit eine robuste Fehlererkennung für Hochglanzoberflächen etablieren – für klassische Messtechnik wäre dafür mehr als ein Jahr nötig gewesen,“ sagt Christian Leon, Geschäftsführer von HDO.

Aktuell ist One AI auf Bildverarbeitung fokussiert, soll jedoch künftig weitere Datendomänen unterstützen, darunter tabellarische Daten, Zeitserien und Sensorsignale. Auch neuere Architekturen wie Transformer oder RNNs sollen ergänzt werden. Geplant sind ein Expert Mode für manuelle Architekturparameter sowie eine API, um die Plattform in andere Tools einzubinden.



  • Nur noch 5,6 Millionen in Kurzarbeit

    Nur noch 5,6 Millionen in Kurzarbeit

    Die Zahl der Beschäftigten in Kurzarbeit ging im Juli auf 5,6 Millionen zurück, gegenüber 6,7 Millionen im Juni. Doch während immer mehr Händler und Dienstleister aufatmen können, sinken die Zahlen…

    mehr lesen: Nur noch 5,6 Millionen in Kurzarbeit

  • Auch nach der Pandemie mehr Homeoffice

    Auch nach der Pandemie mehr Homeoffice

    Rund 37 Prozent der produzierenden Unternehmen wollen Homeoffice auch nach der Corona-Krise nutzen. Vor Ausbruch der Pandemie waren es nur etwa 25 Prozent der Fertigungsbetriebe, wie eine repräsentative Umfrage des…

    mehr lesen: Auch nach der Pandemie mehr Homeoffice

  • Erwartungen für August steigen deutlich

    Erwartungen für August steigen deutlich

    Die ZEW-Konjunkturerwartungen für Deutschland steigen im August 2020 gegenüber dem Vormonat wieder deutlich an, nachdem sie im Juli leicht zurückgegangen waren. Die Konjunkturerwartungen liegen aktuell bei 71,5 Punkten, also 12,2…

    mehr lesen: Erwartungen für August steigen deutlich

  • Hintergrundwissen zur OT- und IT-Welt

    Hintergrundwissen zur OT- und IT-Welt

    Die internetbasierte Veranstaltung IT meets OT am 08. September 2020 bietet Hintergrundwissen zu den zentralen Aspekten von OT- und IT-Architekturen. Dabei werden Fragen adressiert wie: Warum ist Integrität das Schutzziel…

    mehr lesen: Hintergrundwissen zur OT- und IT-Welt

  • Schneider Electric übernimmt Proleit

    Schneider Electric übernimmt Proleit

    Schneider Electric hat den MES-Anbieter Proleit AG erworben. Mit diesem Schritt will der französische Konzern seine Kompetenzen bei der Software-gestützten Automatisierung erweitern.

    mehr lesen: Schneider Electric übernimmt Proleit

  • Konjunkturerholung in der Digitalbranche setzt sich fort

    Konjunkturerholung in der Digitalbranche setzt sich fort

    Im Juli ist der Bitkom-Ifo-Digitalindex erneut gestiegen — der dritte Anstieg in Folge. Die Bitkom-Branche blickt zudem wieder in die Zukunft. Die Erwartungen an das nächste halbe Jahr liegen wider…

    mehr lesen: Konjunkturerholung in der Digitalbranche setzt sich fort

  • Roland Busch folgt auf Joe Kaeser

    Roland Busch folgt auf Joe Kaeser

    Siemens stellt sein Topmanagement um: Roland Busch übernimmt ab Oktober die Verantwortung für das Geschäftsjahr 2021. Auf der Hauptversammlung nächsten Februar löst Busch Topmanager Joe Kaeser als Vorstandsvorsitzenden ab. Digital…

    mehr lesen: Roland Busch folgt auf Joe Kaeser

  • Weniger Aufträge im ersten Halbjahr

    Weniger Aufträge im ersten Halbjahr

    Die durch Handelsstreitigkeiten und politische Verwerfungen geschwächte Weltkonjunktur wurde durch die Covid-19-Pandemie zusätzlich getroffen. Das zeigt sich auch am deutlichen Orderminus im Maschinen- und Anlagenbau.

    mehr lesen: Weniger Aufträge im ersten Halbjahr

  • Alexander Kläger ist neuer SAP Deutschland-Chef

    Alexander Kläger ist neuer SAP Deutschland-Chef

    Mit Alexander Kläger hat SAP Deutschland seit dem 1. August einen neuen Geschäftsführer. Der 49-Jährige ist seit 2012 für den Software-Konzern tätig.

    mehr lesen: Alexander Kläger ist neuer SAP Deutschland-Chef

  • Schwachstellen priorisieren und beheben

    Schwachstellen priorisieren und beheben

    Mit der Vulnerability Mitigation App (VMA) stellt Tufin eine Applikation zur Verfügung, die es Unternehmen ermöglicht, Bedrohungen zu priorisieren und auf diese Weise eine effektive Fehlerbehebung und automatisierte Risikominderung zu…

    mehr lesen: Schwachstellen priorisieren und beheben

  • Emotet ist zurück

    Emotet ist zurück

    Bereits im Februar 2020 berichteten wir von einem Cyberangriff mit dem Trojaner Emotet auf das Berliner Kammergericht. Mehr als 160 Tage nach der letzten bekannten Verbreitung der Schadsoftware konnten Sicherheitsforscher…

    mehr lesen: Emotet ist zurück

  • Kein Unternehmen kommt ohne IoT-Sicherheit aus

    Kein Unternehmen kommt ohne IoT-Sicherheit aus

    Das Internet der Dinge setzt sich in großem Stil durch, weil die potenziellen Vorteile immens sind. Ob es sich um Gebäude- und Straßenlichtsensoren, Überwachungskameras, IP-Telefone, Point-of-Sale-Systeme, Konferenzraumtechnik und vieles mehr…

    mehr lesen: Kein Unternehmen kommt ohne IoT-Sicherheit aus