ReThink Recycling: Mülldetektion live, ohne GPU

Erster Platz beim Siemens × AWS Hackathon „ReThink Recycling”. Vier Tage im Werner-von-Siemens Centre in Berlin, rund 60 Studierende, Thema: Recycling mit KI. Unser Team war etwa sieben Leute groß.

Wir wollten etwas, das man live sieht. Also eine Kamera, die Müll in Echtzeit erkennt und segmentiert. Den Computer-Vision-Teil habe ich gebaut: YOLOv8 mit Instanzsegmentierung, Bounding Boxes und farbige Masken über OpenCV, ausgeliefert als MJPEG-Stream über Flask in ein Dashboard im Browser.

Das eigentliche Problem war nicht das Modell, sondern die Geschwindigkeit. Wir hatten keine GPU, nur Laptops. Also habe ich die Inferenz in einen eigenen Thread mit Frame-Queue gelegt, damit der Stream nicht auf das Modell wartet, auf FP16 umgestellt und die Eingabe auf 320 Pixel verkleinert. Danach lief der Stream flüssig auf der CPU. Präziser wäre ein größeres Bild gewesen. Für eine Live-Demo vor der Jury war flüssig wichtiger.

Wie das Ganze funktioniert, in einfachen Worten. Die Kamera liefert Bild für Bild. Jedes Bild geht durch das Modell, und das liefert für jeden erkannten Gegenstand zwei Dinge: einen Rahmen und eine Maske, also genau die Pixel, die zum Müll gehören. OpenCV malt beides farbig ins Bild. Flask schickt die fertigen Bilder als MJPEG-Stream an den Browser, eine schnelle Folge von JPEGs, die die Seite wie ein Video zeigt. Kamera und Modell laufen dabei getrennt und sind über eine Queue verbunden, damit das Video nicht stockt, wenn das Modell mal länger braucht.

Was ich mitnehme: Bei einer Live-Demo zählt, was auf der Hardware im Raum läuft, nicht was auf dem Papier am genauesten ist. Und Performance fängt bei der Architektur an, nicht beim Modell.

Tools und Skills: Python, YOLOv8 von Ultralytics mit Instanzsegmentierung, OpenCV, Flask, Threads und Queues, Halbpräzision und Rapid Prototyping unter Zeitdruck.

Zwei Hackathons in sechs Wochen, zwei sehr unterschiedliche Teams. Im April beim Bundesliga Hackathon waren wir zu dritt, hier zu siebt.