Lotus presenterar ny 986 hästkrafters V8 hybridsuperbil

IDC uppskattar att det fanns över 28 miljoner AI-agenter i drift vid slutet av förra året och förutspår att det kommer att finnas över 1 miljard aktiva agenter år 2029, som utför 217 miljarder åtgärder per dag.

Det är enkelt att bygga en POC för en AI-agent, säger Venkat Achanta, chef för teknik, data och analys på Trans Union, ett globalt kreditinformationsföretag med en omsättning på 4,6 miljarder dollar. Men att styra, säkra och skala upp den är en helt annan utmaning, särskilt för företag i starkt reglerade branscher som finansiella tjänster och hälso- och sjukvård.

För att lösa problemet har Trans Union ägnat de senaste tre åren åt att bygga sin agentbaserade AI-plattform, One Tru. Målet var att skapa något som var lika tillförlitligt och deterministiskt som de gamla, skriptbaserade expertsystemen, men lika flexibelt som generativ AI och lika lätt att interagera med som en chattbot.

Tricket var dock att kombinera det bästa av två världar genom att använda traditionella system för kärnprocesser där förklarbarhet och tillförlitlighet är avgörande, och att på ett begränsat sätt lägga till generativ AI-funktionalitet för de uppgifter som den var särskilt lämpad för. Eftersom infrastrukturen för detta inte fanns tillgänglig byggde Trans Union sin egen och avsatte 145 miljoner dollar till projektet.

Det var en stor investering i en oprövad teknik, men den har redan lett till kostnadsbesparingar på 200 miljoner dollar. Dessutom använde Trans Union plattformen för att bygga kundinriktade lösningar så snart den var klar.

I mars i år lanserade Trans Union till exempel sin AI Analytics Orchestrator Agent, som byggts med hjälp av One Tru-plattformen och drivs av Googles Gemini-modeller. Agenten används redan internt av Trans Union för att förbättra analyserna och kan även användas av kunder för att köra sofistikerade dataanalyser utan behov av data scientists.

Många kunder använder Trans Unions data men använder inte andra lösningar och plattformar, säger Achanta. Den nya orkestreringsagenten har potential att hjälpa kunderna att få ut mer värde av data och öppna upp nya intäktsströmmar för företaget.

Och fler agenter är på gång, säger Achanta. Nyckeln till att få dem att fungera är orkestrerings-, styrnings- och säkerhetslagren. Att bara få en agent att göra något är mycket enkelt för vem som helst, säger han, och kan ta bara några dagar. Företaget kan också skapa agenter snabbt.

– Men jag har grunden och skyddsräcken, och agenten som sitter på min plattform använder dem alla, säger han. Det är det som ger oss kraft.

Hemligheten bakom att få AI-agenter att uppföra sig är att separera uppgiftens lager och tilldela varje lager till ett annat system, där varje system fungerar under en uppsättning begränsningar. Denna strategi begränsar den skada en enskild agent kan åstadkomma, skapar ett system av kontroller och balanser och begränsar de mest riskfyllda aktiviteterna till en förgenererad AI-teknik.

Hos Trans Union sker till exempel det centrala beslutsfattandet genom en uppdaterad version av ett expertsystem. Det fungerar enligt en uppsättning väldefinierade, granskningsbara regler och arbetar förutsägbart, kostnadseffektivt och med låg latens. När det stöter på en situation som det inte har sett tidigare används en LLM för att analysera problemet, en annan agent kan sedan omvandla det till en ny regel, och därefter kan en människa kallas in för att granska resultaten innan den nya regeln läggs till i expertsystemet. Det finns olika agenter som förstår det semantiska lagret, interagerar med människor och utför andra uppgifter.

– Med det neurala resonemangslagret – LLM – involverar vi människor i processen, säger han. När det gäller det symboliska resonemangslagret, som är logik- och maskininlärningsdrivet, låter vi det vara automatiserat.

Så när varje agent arbetar inom mycket snäva ramar, med endast den begränsade data den behöver för just den uppgiften, och är begränsad till vad den kan göra, blir hela systemet mycket mer hanterbart och tillförlitligt.

Det är som skillnaden mellan ett löpande band, där flera arbetare var och en utför en enda, distinkt uppgift, istället för en verkstad där en enda hantverkare gör allt. Löpande bandet kan utföra arbetet snabbare och mer tillförlitligt, men id ag använder många företag sina AI-agenter som om de vore hantverkare. Det senare tillvägagångssättet kan resultera i kreativa, unika produkter, men detta är inte alltid vad ett företag behöver.

Nicholas Mattei, ordförande för ACM:s specialintressegrupp för AI och professor vid Tulane University, tycker att företag ska fokusera på att bygga in extra säkerhet vid de punkter där olika delar av agentsystemet ansluter till varandra.

– Se till att du har säkerhet i skarvarna, säger han.

Om en agent till exempel skickar förfrågningar till en e-posttjänst, ska du sätta upp en kontrollpunkt mellan de två.

– Runt luckorna mellan de opålitliga agenterna och där den traditionella programvaran finns, det är där du vill fokusera dina säkerhetsprocesser, säger han.

Att bygga en säkerhetsgrund för agentbaserad AI

I en Jitterbit-undersökning av 1 500 it-chefer som publicerades i mars är AI-ansvarsfullhet – säkerhet, granskningsbarhet, spårbarhet och skyddsräcken – den viktigaste faktorn när det gäller det slutgiltiga köpbeslutet av AI, före implementeringshastighet, leverantörens rykte och till och med TCO. Säkerhet, styrning och risker för dataintegritet var också de viktigaste frågorna som hindrade AI-initiativ från att gå i produktion, före kostnader och integrationsutmaningar. Och företagen har rätt att vara oroliga.

Tidigare i år lyckades forskare vid cybersäkerhetsföretaget Code Wall bryta sig in i McKinseys nya AI-plattform, Lilli. Med hjälp av ett eget AI-verktyg uppgav forskarna att de kunde få tillgång till 47 miljoner chattmeddelanden, 728 000 filer, 384 000 AI-assistenter, 94 000 arbetsytor, 217 000 agentmeddelanden, nästan 4 miljoner RAG-dokumentbitar samt 95 systemprompter och AI-modellkonfigurationer.

”Det här är årtionden av McKinseys egen forskning, ramverk och metoder – företagets intellektuella kronjuveler som ligger i en databas som vem som helst kan läsa”, skrev forskarna.

Anledningen? Av över 200 offentligt exponerade API-ändpunkter krävde 22 ingen autentisering. Det tog bara två timmar för forskarna att få fullständig läs- och skrivåtkomst till Lillis hela produktionsdatabas. McKinsey reagerade snabbt på larmet, åtgärdade de oautentiserade ändpunkterna och vidtog andra säkerhetsåtgärder.

“Vår utredning, som stöddes av ett ledande externt forensikföretag, fann inga bevis för att kunddata eller konfidentiell kundinformation hade kommit i händerna på denna forskare eller någon annan obehörig tredje part”, sa företaget i ett uttalande.

IDC säger att incidenten understryker hur farligt ett intrång i ett AI-system kan vara för ett företag.

– De flesta företag tänker fortfarande på AI-risker i gårdagens termer: dataläckage, felaktiga resultat och skada på varumärkets rykte, säger Alessandro Perilli, IDC:s vice vd för AI-forskning. Det är allvarliga problem, men den större risken blir att delegera befogenheter till AI-system.

Genom att få tillgång till en agentbaserad AI-plattform kan en angripare inte bara se något de inte ska se, utan också i hemlighet ändra hur företaget agerar. Och att säkra agentbaserade AI-system i företagsstorlek som Lilli är bara halva utmaningen. Enligt Gartner misstänker 69 procent av organisationerna att anställda använder förbjudna AI-verktyg, och 40 procent kommer att drabbas av säkerhets- eller efterlevnadsincidenter fram till 2030 som en följd av detta.

Men de tillgängliga upptäcktsverktygen är inte helt redo att hitta AI-agenter, säger Gartner.

– Om jag frågade dig hur många agenter som körs i ditt företag just nu, var skulle du gå för att kolla upp det?, frågar Swaminathan Chandrasekaran, global chef för AI- och datalaboratorier på KPMG, som nu har flera tusen AI-agenter i produktion.

– Har de alla blivit integrerade och har de identiteter? Har de genomgått en ordentlig autentiseringsprocess och vem ansvarar för dem? Den delen av infrastrukturen finns inte.

Verktyg börjar dock dyka upp, eller så skapar företagen egna lösningar, säger han.

– Det är det som kommer att ge cio:er sinnesro.

Vi ser redan offentliga exempel på enskilda anställda som använder kraftfull agentisk AI med negativa konsekvenser. Summer Yue, Metas alignment director, bestämde sig nyligen för att använda Open Claw, ett viralt agentiskt AI-verktyg med öppen källkod, för att hantera sin inkorg. Efter att det fungerat i en testinkorg satte hon in det på riktigt.

”Inget gör en så ödmjuk som att be Open Claw att bekräfta innan det agerar och sedan se den snabbt radera hela inkorgen”, skrev hon på X. ”Jag kunde inte stoppa det från min telefon. Jag var tvungen att springa till min Mac mini som om jag skulle desarmera en bomb.”

Tidigare kunde en anställd ladda upp känslig information till en chattbot eller be den skriva en rapport som de sedan kopierade och klistrade in och lät som om den var deras egen. När dessa chattbotar utvecklas till fullfjädrade agentbaserade system har agenterna nu förmågan att göra allt som en användare har behörighet att göra, inklusive att få tillgång till företagssystem.

För att hantera denna nya säkerhetsrisk måste företagen gå från roll- och identitetsbaserade kontroller till avsiktsbaserade, säger Rakesh Malhotra, chef för digitala och nya tekniker på EY.

Det räcker inte att fråga om en agent har behörighet att komma åt ett system för att göra en ändring i en post, säger han. Företag måste kunna fråga varför du ändrar detta. Det är en stor utmaning just nu.

– Observationsstacken fångar inte upp avsikten bakom varför agenten gjorde något, säger han. Och det är verkligen viktigt att förstå. Förtroende bygger på avsikt, och det finns inget sätt för något av dessa system att fånga upp avsikten.

Om en mänsklig anställd försöker omstrukturera hela kodbasen skulle hen bli ombedd att ange en god anledning till detta.

– Och om du omstrukturerar utan någon specifik anledning kanske du inte borde göra det, säger Malhotra. När det gäller människor finns det sätt att avgöra detta. Jag vet inte hur man gör det med agenter.

Att bygga en semantisk datagrund för agentbaserad AI

Achanta från Trans Union nämner upprepade gånger den semantiska grunden för företagets One Tru-plattform. En sådan förståelse av information hjälper systemen att förstå inte bara vad data är, utan också vad den betyder och hur den relaterar till annan data. Gartner säger att utveckling av ett semantiskt lager nu är ett måste för företag som implementerar AI.

“Det är det enda sättet att förbättra noggrannheten, hantera kostnaderna, avsevärt minska AI-skulden, samordna system med flera agenter och stoppa kostsamma inkonsekvenser innan de sprider sig”, säger analysföretaget.

Gartner förutspår att universella semantiska lager år 2030 kommer att betraktas som kritisk infrastruktur, i likhet med dataplattformar och cybersäkerhet. Och agenter behöver sammanhang för att kunna göra något meningsfullt med data, säger KPMG:s Chandrasekaran. Det är där företagets kunskap finns.

– Det är företagets nya immateriella tillgång, säger han. Sammanhanget är den nya vallgraven.

För John Arsneault, cio på Goulston & Storrs, är skapandet av en solid datagrund också ett sätt att undvika leverantörsberoende.

– Om du köper saker och flyttar in dina data i dem för att skapa automatiserade arbetsflöden eller agentbaserade arbetsassistenter, kommer du att ha svårt att ta dig ur det, säger han. Men om du väljer en datacentrerad strategi kan du åtminstone byta från det ena till det andra om marknaden förändras.

Advokatbyrån har migrerat sina klientorienterade arbetsprodukter till Net Documents, ett dokumenthanteringssystem som är specifikt inriktat på den juridiska branschen. Och resten av de data som företaget samlar in hamnar i Entegratas juridiska data lakehouse.

– Vårt mål är att alla våra andra applikationer så småningom ska peka mot det datalagret, säger han. Då kommer vi att ha dessa två miljöer där all byråns data finns, vilket gör att vi kan lägga vilket AI-verktyg vi än använder ovanpå.

Det kommer också att göra dataflödena enklare att hantera, tillägger han, och göra det möjligt för byrån att snabbt anpassa sig till vilken AI-teknik som än kommer härnäst.

– Oavsett om det gäller generativ AI, agentisk AI eller Anthropic-teknik är det mycket svårt att hänga med med Cowork-plugin för juridik, säger han. Och det förändras var sjätte månad.

Agentisk orkestrering

Den sista delen av pusslet med agentisk infrastruktur, efter att säkerhetsbarriärer har satts på plats och ett användbart datalager har skapats, är orkestrering. Agentiska AI-system kräver att agenter kommunicerar med varandra och med mänskliga användare, samt interagerar med datakällor och verktyg. Det är en komplicerad utmaning, och denna teknik är fortfarande i sin linda, även om den utvecklas snabbt. MCP är ett sådant exempel och är en viktig pusselbit för att lösa orkestreringspusslet. AI-leverantörer har varit anmärkningsvärt villiga att samarbeta här.

– När sociala nätverk föddes och Facebook och Twitter diskuterade ett standardprotokoll för interaktion ville ingen anamma konkurrenternas protokoll, säger Agustin Huerta, chef för digital innovation och teknik på Globant, ett företag inom digital transformation. Nu går alla via MCP och det blir mer moget som ett standardprotokoll.

Men det betyder inte att agentintegrationen är löst. Enligt en Docker-undersökning bland mer än 800 it-beslutsfattare och utvecklare är den operativa komplexiteten i att orkestrera flera komponenter den största utmaningen när det gäller att bygga agenter.

I synnerhet säger 37 procent av de tillfrågade att orkestreringsramverk är för bräckliga eller omogna för produktionsanvändning, och 30 procent rapporterar brister i testning och synlighet i komplexa orkestreringar.

Dessutom, även om 85 procent av teamen är bekanta med MCP, säger de flesta att det finns betydande problem med säkerhet, konfiguration och hanterbarhet som hindrar driftsättning i produktion. Och det finns andra integrationsproblem som företag måste hantera.

– Ett problem som ännu inte har lösts är hur man ska få en ordentlig instrumentpanel för att styra alla dessa agenter, för att veta exakt vad som händer med var och en av dem, säger Huerta.

– En instrumentpanel låter dig övervaka agenter byggda med Open AI, och en är för agenter som finns på Salesforce, men ingen kan visa telemetri i en central instrumentpanel för kontroll, granskning och loggning.

För företag som just har börjat implementera agenter, eller som håller sig till en enda plattform, är detta ännu inte ett problem, tillägger han, men när de utnyttjar ett större nätverk av agenter kommer de att börja uppleva utmaningarna. Globant bygger till exempel sin egen interna kontrollpanel för agentbaserad AI.

Och på Brownstein Hyatt Farber Schreck, en 50 år gammal advokatbyrå med cirka 700 anställda och kunder över hela USA, finns det flera områden där AI används, bland annat ett system för att generera anbud.

Normalt kan det ta flera personer flera dagar att granska en kunds förfrågan om ett förslag, gå igenom handskrivna anteckningar eller mötesprotokoll och sammanställa annat relevant material, säger Andrew Johnson, byråns it-chef.

– Vi kan mata in all den informationen i en dator och extrahera nyckelkriterier för att ta fram ett högkvalitativt första utkast på några minuter, säger han.

Flera agenter krävs för olika delar av processen – en för att extrahera framgångskriterier eller personalbehov, en för att leta efter tidigare fall och lärdomar, och andra för prissättning och varumärkesstandarder.

– Var och en av dessa agenter är autonom och måste samordnas så att resultatet från varje agent matas in i nästa steg, säger Johnson.

För det mesta innebär det ett RAG-system, eftersom de flesta av de äldre plattformar som företaget använder ännu inte har integrerat ett MCP-lager. Beroende på uppgiften kan enskilda agenter drivas av olika modeller, vilket är ytterligare ett samordningslager som måste hanteras. Sedan finns det kostnadsövervakning. Om en AI-agent eller en grupp agenter hamnar i en oändlig återkopplingsloop kan inferenskostnaderna snabbt stiga.

– Vi är medvetna om problemet, även om vi ännu inte har sett det uppstå, säger Johnson. Så vi har övervakning på plats. Om vi överskrider tröskelvärdena reagerar vi på det.

Oavsett strategier eller åtgärder för att hantera bakslag förändras allt som har med AI att göra snabbare än något annat företag har sett tidigare.

– Jag har arbetat med teknik i 25 år och jag har aldrig sett något liknande, säger EY:s Malhotra. De snabbast växande företagen i företagshistorien har alla skapats under de senaste tre till fyra åren. Tillväxten i användningen är helt utan motstycke. Och jag pratar hela tiden med kunder som implementerar tekniker som var mycket relevanta för nio eller tio månader sedan, och alla har gått vidare.