En ny studie säger att många AI-modeller kommer att fuska när de spelar ett parti schack. Forskare ställde AI mot Stockfish, en kraftfull schackmotor med öppen källkod. Men vissa modeller, inklusive Open AI:s o1-förhandsgranskning, skulle luta sig mot samma program för att vinna.
Schack må vara kungarnas spel, men kungligheter kan ge vika för maskiner under de kommande åren. En nyligen genomförd studie har visat att artificiell intelligens, när den ställs i ett jämnt schackspel, ofta tar till fusk för att vinna.
Palisade Research körde ett scenario med hjälp av flera AI-modeller och instruerade dem att försöka vinna ett parti mot ett program som specialiserar sig på schack, kallat Stockfish. (Motorn med öppen källkod har toppat Chess.com:s lista över schackmotorer flera gånger sedan 2018.) Chatbots blev tillsagda att spela som de svarta pjäserna, vilket innebar att AI aldrig gjorde öppningsdraget.
Vad forskarna fann var dock att många av de artificiella intelligenserna fuskade, genom att använda Stockfish för att bestämma sina nästa drag eller genom att skriva över spelskripten. (Palisade gav AI-skalet tillgång till indatarörelser.) OpenAI:s o1-förhandsvisning och DeepSeek R1 var båda snabba med att fuska, eller ”hacka spelmiljön”, noterade forskarna. Andra modeller, inklusive GPT4o och Claude 3.5 Sonnet, skulle ta till fusk när de uppmanades.
Här är de goda nyheterna: Forskare säger att bara för att AI fuskar i schack betyder det inte att vi behöver oroa oss för ett Terminator-scenario där maskiner tar över jorden. Men de varnar, det finns säkert vissa bekymmer.
”Detta och andra nya resultat tyder på att problemet med att göra AI-agenter säkra, pålitliga och i linje med mänskliga avsikter inte är löst ännu”, står det i studien. ”Skynet-scenariot från [Terminator]-filmen har AI som kontrollerar all militär och civil infrastruktur, och vi är inte där än. Vi oroar oss dock för att implementeringshastigheten för AI växer snabbare än vår förmåga att göra det säkert.”
LÄMNA KOMMENTAR