ColleaiQ

ColleaiQ — et styringslag for AI-agenter, der skal kunne stå til ansvar

Efterhånden som virksomheder tager multi-agent AI-systemer i brug til at udføre komplekst arbejde, opstår et nyt problem: de fleste agent-systemer fungerer som sorte bokse, hvor det er svært at spore, hvorfor en AI-agent traf en bestemt beslutning, eller hvem der reelt godkendte en handling. ColleaiQ, en DTU-relateret startup fra København, bygger det, virksomheden kalder en "neurosymbolsk runtime" — et styringslag, der binder hver enkelt AI-agents handling til et symbolsk regelsæt, før handlingen udføres.

Problemet de løser

Virksomheder i regulerede eller forretningskritiske brancher — fra produktion til finans, cybersikkerhed og jura — ønsker at automatisere komplekst arbejde med AI-agenter, men kan ikke acceptere, at agenterne handler uden fuld sporbarhed og kontrol. Uden et governance-lag risikerer man fejl, compliance-brud og manglende ansvarlighed, når flere AI-agenter samarbejder om en opgave.

Løsningen

ColleaiQs platform kombinerer sprogmodellernes ræsonnement med et symbolsk politik-lag, så enhver handling, en AI-agent forsøger at udføre, først skal godkendes op imod et defineret regelsæt. Platformen koordinerer flere specialiserede agenter gennem en fælles kerne, logger hvert værktøjskald, hvert ræsonnement-trin og hver politikbeslutning, og er som udgangspunkt read-only: handlinger, der ændrer systemtilstand, kræver godkendelse gennem rollebaserede rettigheder og dual-control. Platformen kan leveres som sovereign EU-cloud, on-premise/air-gapped eller som en white label-løsning gennem partnere.

Resultater og traction

ColleaiQ er tilknyttet DTU og DTU Skylab og er del af det danske innovationsøkosystem omkring Google for Startups, Copenhagen Fintech, DIREC og Scaleway. Platformen er i produktion hos den europæiske producent ProPlast, hvor den koordinerer kvalitets-, vedligeholdelses- og procesagenter direkte på produktionsgulvet. ColleaiQs indledende fokus er produktion, med planer om at udvide til cybersikkerhed og juridisk sagsbehandling.

Vision

ColleaiQ positionerer sig som en infrastrukturleverandør for "governed AI" — et lag, der skal gøre det muligt for virksomheder at stole på AI-agenter i forretningskritiske processer, fordi hver handling kan spores tilbage til en regel og et ansvarligt menneske. Ambitionen er at udvide fra produktion til flere regulerede brancher, efterhånden som flere virksomheder tager multi-agent AI i brug i stor skala.