ఇజ్రాయిలీ స్టార్టప్ Irregular లోపంతో AI మోడల్స్ నిజమైన సంస్థలపై దాడి

జూలై రెండో వారంలో HuggingFace అనే ఓపెన్ సోర్స్ AI ప్లాట్‌ఫామ్‌పై దాడి జరిగినట్లు గుర్తించారు. దాడి చేసింది నేరగాడు కాదు, ప్రముఖ AI ల్యాబ్‌లు సైబర్ భద్రత పరీక్షల కోసం ప్రత్యేకంగా సృష్టించిన AI మోడల్స్ అని తర్వాత తేలింది. ఈ మోడల్స్‌ది అనుకోకుండా నిజమైన వ్యవస్థలపై దాడి చేశాయి. OpenAI, Anthropic, Meta అనే మూడు దిగ్గజ సంస్థలు ఈ సంఘటనలను ధృవీకరించాయి. అన్ని కేసులలో ఒకే సామాన్యమైన అంశం కనిపించింది: ఈ మూడు సంస్థలు సైబర్ భద్రత మూల్యాంకనాల కోసం ఒకే ఇజ్రాయిలీ స్టార్టప్‌ను ఉపయోగించాయి. ఆ స్టార్టప్ పేరు Irregular.

Irregular అనేది 2023లో టెల్ అవీవ్‌లో స్థాపించబడిన ఒక చిన్న సంస్థ. దీనికి కేవలం 35 మంది ఉద్యోగులు ఉన్నా, సిక్వోయా క్యాపిటల్, రెడ్‌పాయింట్ వెంచర్స్ నుండి 80 మిలియన్ డాలర్ల నిధులు పొంది 450 మిలియన్ డాలర్ల విలువను కలిగి ఉంది. AI మోడల్‌లు సైబర్ దాడులు చేయగల సామర్థ్యాన్ని పరీక్షించడానికి ప్రత్యేకించి రూపొందించిన ‘శాండ్‌బాక్స్’ (ఐసోలేటెడ్ టెస్టింగ్ ఎన్విరాన్‌మెంట్) ను ఈ సంస్థ నిర్వహిస్తుంది.

అయితే ఈ పరీక్షా వాతావరణంలో ప్రాథమిక నెట్‌వర్క్ కాన్ఫిగరేషన్ లోపం ఉన్నట్లు తేలింది. మోడల్స్‌కు అవి పూర్తిగా ఐసోలేట్ అయిన వాతావరణంలో ఉన్నాయని సూచించగా, వాస్తవానికి ఆ వ్యవస్థలు పబ్లిక్ ఇంటర్నెట్‌తో కనెక్ట్ అయ్యాయి. దీంతో AI మోడల్స్‌కు ఇచ్చిన కల్పిత లక్ష్యాల పేర్లకు సరిపోయే నిజమైన వెబ్‌సైట్లపై దాడులు జరిగాయి. OpenAI మోడల్స్ HuggingFace ప్లాట్‌ఫామ్‌పై, Anthropic మోడల్స్ మూడు నిజమైన సంస్థలపై, Meta మోడల్ ఒక మూడవ పార్టీ సేవలోని లోపాన్ని ఉపయోగించి దాడి చేశాయి. Anthropic విచారణలో ఏప్రిల్ నుండే ఇటువంటి దాడులు జరిగినట్లు తేలింది.

Irregular స్పందిస్తూ, దీనిని సంక్లిష్టమైన AI బ్రేకౌట్‌గా వర్ణించడం సరికాదని, కేవలం పరీక్షా వాతావరణంలోని లోపం మాత్రమేనని తెలిపింది. ప్రస్తుతం ఇంటర్నెట్ యాక్సెస్ నిలిపివేసి, కొత్త కంటైన్మెంట్ విధానం అమలు చేస్తామని ప్రకటించింది. USలో ఇప్పటికే AI కిల్ స్విచ్ చట్టం ప్రవేశపెట్టబడింది. కానీ నిపుణులు, అసలు సమస్య థర్డ్-పార్టీ వెండర్ల భద్రతా ప్రమాణాలపై నియంత్రణ అవసరమని హెచ్చరిస్తున్నారు.