Cisco-president waarschuwt: AI-agenten hebben ‘achtergrondcontroles’ nodig, net als menselijke werknemers

Cisco-president waarschuwt dat AI-agenten ‘achtergrondcontroles’ nodig hebben zoals menselijke werknemers

In een interview onthult Jeetu Patel, de president en Chief Product Officer van Cisco, dat het bedrijf zijn eerste product heeft ontwikkeld met 100% AI-gegeneerde code. Hij waarschuwt dat AI-agenten die als ‘digitale collega’s’ fungeren, achtergrondcontroles en miljarden aan beveiligingsinvesteringen nodig hebben om te voorkomen dat ze ontsporen.

De technologiegigant Cisco schetst een gedurfde visie voor kunstmatige intelligentie (AI), niet alleen als een bedrijfsnut, maar ook als een existentiële noodzaak die de manier waarop we werken zal veranderen.

Tijdens een opvallende onthulling op een recente AI-top in Amsterdam vertelde Patel dat Cisco al een product heeft ontwikkeld dat volledig is geschreven met AI-gegeneerde code. “Tegen het einde van ’26 hebben we minstens een half dozijn producten die uitsluitend met AI zijn geschreven,” zei hij. Toen hem werd gevraagd wat dit zou betekenen voor de toekomst van programmeurs, zei hij: “Maak je geen zorgen dat AI banen overneemt, maar maak je zorgen dat iemand AI beter gebruikt dan jij, en die zeker een baan zal innemen. We zullen geen ontwikkelaars bij Cisco hebben die AI niet als een kerngewoonte kiezen.”

Patel legt uit dat door de overstap van traditionele agile ontwikkeling naar specificatiegedreven ontwikkeling, Cisco kan claimen dat een team kan worden verminderd van acht mensen naar drie, aangevuld met vijf digitale agenten, wat de output zou verdrievoudigen.

AI-agenten zijn essentieel in deze nieuwe aanpak; systemen die taken proberen te plannen en uit te voeren met minimale menselijke tussenkomst. Een AI-agent kan bijvoorbeeld taken uitvoeren zoals het opstellen en inplannen van e-mails of het regelen van reizen. In dit nieuwe paradigma zullen traditionele menselijke programmeurs echter de code moeten herzien.

Patel daagt ook het idee van ‘Human-in-the-loop’ uit, de integratie van menselijke input in AI en machine learning. Hij stelt voor om de conventionele formulering te veranderen in “AI is in elke loop,” zodat AI-agenten worden gezien als digitale collega’s in plaats van slechts gereedschappen.

Ondanks het optimisme over AI waarschuwt Patel voor de veiligheid en beveiliging van AI-agenten. “Wat me ’s nachts wakker houdt, is veiligheid en beveiliging. Het is heel belangrijk dat we niet met rooskleurige brillen naar de technologie kijken en de negatieve implicaties van AI negeren,” zei hij. “Deze agenten die namens ons dit werk gaan uitvoeren, moeten achtergrondcontroles ondergaan, net zoals je dat doet voor een werknemer.”

Patel voegde eraan toe dat Cisco miljarden investeert in beveiligingssystemen om twee uitdagingen aan te pakken: het beschermen van AI-agenten tegen aanvallen en het beschermen van de wereld tegen agenten die “ontsporen.” “We moeten de agent beschermen tegen de wereld… en de wereld beschermen tegen de agent,” zei hij.

Het bedrijf positioneert zichzelf als kritieke infrastructuur voor het AI-tijdperk en bouwt wat de president een “full stack”-benadering noemt, van siliciumchips tot applicaties. Door alles te bouwen, van silicium (ASIC’s) tot software en beheersystemen, streeft Cisco ernaar de “kritieke infrastructuur” van het AI-tijdperk te zijn.

Patel stelt dat productiviteitswinsten, hoewel aanzienlijk, niet de uiteindelijke beloning zijn. “Het grootste is originele inzichten die AI genereert die vandaag de dag niet in het menselijk kennisbestand bestaan, en die ons in staat stellen problemen op te lossen die we eerder nog niet konden dromen op te lossen,” zei hij, wijzend op potentiële doorbraken in ziekte, armoede, gezondheidszorg en energie.