Kunstige intelligens-agenter træffer stadig flere beslutninger på vegne af deres brugere – men fordi store sprogmodeller ikke er helt forudsigelige, risikerer de at købe noget helt tredje end hvad brugeren bad om. American Express griber nu fat i problemet med et nyt rammeværk, der skal fastslå og bekræfte kundens købsintention, før AI-agenten fuldfører transaktionen.
Det nye system hedder “Intent Intelligence Framework”, og Amex håber, det bliver standard i industrien. “Disse nye transaktioner involverer en forbruger, en handlende og en agent,” forklarede Hannah Bozian, Amex’s vicepræsident for Agentic Partnerships and Strategy, til TechCrunch. Hun understreger, at Amex vil sikre, at agent-baserede transaktioner forbliver “problemfri, pålidelige og sikre – sådan som vores kortejere forventer det.”
Rammeværket blev lanceret som en del af Amex Agentic Commerce Experiences (ACE) Developer Toolkit, som Amex først introducerede i april. Selvom Amex endnu ikke har registreret flere tvister som følge af agent-baserede køb, vil virksomheden være proaktiv, inden området vokser. Og der er efterspørgsel: ifølge en nylig Amex Trendex-rapport siger 66 procent af amerikanske forbrugere, at de sandsynligvis vil bruge AI-agenter til at finde de bedste priser, og 61 procent vil bruge dem til produktanbefalinger de kommende 12 måneder.
Hvordan fungerer Intent Intelligence Framework?
Systemet starter med en Create Intent API, som registrerer kundens købsinstruktioner samt eventuelle begrænsninger – såsom forhandlerens navn, maksimalt budget og produktpræferencer. Kunderne godkender derefter deres identitet og tegner under på den intention, som agenten har registreret.
Dernæst genereres et Intent ID – en unik identifikator for intentionen – samt et “Proof of Intent Token”, som indeholder kundens højtværdige begrænsninger. Dette token bruges til at hente en sikker digital betalingslegitimation, som agenten bruger ved kassen i stedet for kundens rigtige kreditkortnummer. På denne måde forbliver købet sikkert og i overensstemmelse med, hvad kunden har autoriseret agenten til at gøre.
“Vores tilgang adskiller sig fra andre implementeringer ved, at vi trækker intention tidligere ind i transaktionsforløbet. Og det er vigtigt, fordi det hjælper med at afbøde nogle risici, før de opstår,” sagde Bozian til TechCrunch. Hun gav eksemplet med en kunde, der beder agenten om at købe hvide Nike-sneakers i størrelse 9, men agenten sender en anmodning om at købe sko fra Adidas. I sådan et tilfælde kunne Amex blokere transaktionen, fordi agenten lavede en fejl.
Større autonomi for agenter i fremtiden
Bozian pointerer, at mens mange agenter i dag spørger om kundetilladelse før køb, ser Amex en fremtid, hvor agenter kan handle meget mere autonomt i bestemte situationer. En forbruger kunne for eksempel give sin agent tilladelse til automatisk at genbestille husholdningsvarer som papirtørklæder eller toiletpapir – kategorier hvor de eneste reelle begrænsninger er pris og størrelse, ikke mærke eller forhandler. I disse scenarier giver det mening at have teknologi på plads, der udfører den ekstra kontrol for at sikre, at transaktionerne passer til kundens intention.
En log over, hvad der blev autoriseret af hvilken agent og hvornår, kan også hjælpe med at håndtere svindel på agentens vegne. Amex er allerede i samtaler med partnere på tværs af betalingsøkosystemet om implementering af ACE, som omfatter de agent-tokens, der indeholder Amex’s betalingslegitimationer, samt andre dele af developer kit’et.
Virksomheden planlægger aktivt at udvikle ACE yderligere i takt med, at agent-baseret handel udvikler sig.