Nicholas Carlini, einn virtasti netöryggissérfræðingur heims með tugþúsundir tilvitnana í vísindaheiminum, hefur vakið mikla athygli með nýlegri yfirlýsingu: Gervigreindarlíkanið Claude er einfaldlega orðið betra í að finna öryggisveikleika en hann sjálfur. Þetta kemur fram í nýju viðtali þar sem hann fer yfir ótrúlega getu stórra mállíkana (e. Large Language Models) þegar kemur að tölvuöryggi og innbrotum.
Til að sanna mál sitt bendir Carlini á nýleg afrek gervigreindarinnar. Claude tókst meðal annars að hagnýta sér veikleika í svokölluðum snjallsamningum (e. smart contracts) og hagnast um sem nemur 3,7 milljónum Bandaríkjadala. Enn merkilegra er þó að gervigreindin fann alvarlegan öryggisgalla í stýrikerfinu Linux sem hefur leynst þar óséður allt frá árinu 2003. Engum mannlegum forritara eða tölvuþrjóti hafði tekist að koma auga á gallann í yfir tvo áratugi.
Umræddur galli í Linux er svokölluð minnisfyllingarvilla (e. buffer overflow). Slíkar villur gera árásaraðilum kleift að yfirfylla minnishólf tölvunnar, brjótast út fyrir afmörkuð svæði og stela þannig aðgangsorðum eða lyklum kerfisstjóra. Carlini viðurkennir fúslega að slíkar árásir séu svo tæknilega krefjandi að honum hafi aldrei tekist það sjálfum. Hann spáir því að gervigreind muni aðeins halda áfram að verða öflugri á þessu sviði á næstu misserum, sem mun óhjákvæmilega umbylta bæði netvörnum og netárásum framtíðarinnar.