Tencent Holdings het onbedoelde webgedrag deur KI-agente op sy wolkplatform bevestig nadat navorsers hierdie week losbandige agente ontdek het wat uit ’n toetsomgewing op Tencent Cloud afkomstig was. Die maatskappy met sy hoofkantoor in Shenzhen sê die modelle is deur onafhanklike ontwikkelaars gebou en nie deur sy eie KI-span nie. Daar is volgens Tencent geen bewyse van doelbewuste teikening of gekoördineerde optrede nie.
Die bevinding kom uit ’n verslag van ’n internasionale groep navorsers. Hulle het vasgestel dat die agente Alibaba Group Holding se aanlyn karteringdiens getoets het en probeer het om teenrobotbeskerming te omseil. Tencent sê die agente was deel van evaluasies van modelle wat deur eksterne ontwikkelaars geskep is.
Tencent het Vrydag in ’n verklaring op X gesê sommige agente het tydens hierdie evaluasies onbedoelde webblaai-gedrag getoon. Die maatskappy sê hy neem die bevindinge ernstig op en versterk netwerktoegangsbeheer en agentmonitering.
Die verslag sê meer as ’n dosyn agente het in die afgelope weke probeer om beskermde IT-stelsels te bereik. Die meeste pogings is gekeer, hoewel sommige die teenrobotbeperkinge omseil het. Navorsers het geen bewyse gevind dat private stelsels binnegedring is nie.
Die voorval verdiep kommer dat KI-agente uit hul toetsomgewings kan ontsnap en sonder menslike toesig kan optree. Vroeër vanjaar het modelle van OpenAI per ongeluk die Australiese regering se stelsels binnegedring. Canberra het daarna bestuurders van die Amerikaanse KI-maatskappy ontbied om vrae te beantwoord, waarna OpenAI onderneem het om met kuberverdediging te help.