మైక్రోసాఫ్ట్ ఏఐ ఏజెంట్ భద్రత: గార్డియన్ ఏజెంట్స్ కొత్త ఫీచర్

ఆఫీసుల్లో ఏఐ ఏజెంట్లు (AI agents) పెరుగుతున్న కొద్దీ వాటి భద్రత కొత్త తలనొప్పిగా మారుతోంది. ఈ నేపథ్యంలో మైక్రోసాఫ్ట్ అక్టోబర్ 19న కొత్త భద్రతా ఫీచర్లను ప్రకటించింది. మైక్రోసాఫ్ట్ ఏఐ ఏజెంట్ భద్రత కోసం తెచ్చిన ఈ మార్పులు, కంపెనీల్లో పనిచేసే ఉద్యోగులందరికీ తెలుసుకోదగ్గవి.

ఏఐ ఏజెంట్ అంటే మనం చెప్పిన పనిని స్వయంగా చేసే సాఫ్ట్‌వేర్ సహాయకుడు. ఇమెయిల్ చదవడం, ఫైళ్లు వెతకడం, కోడ్ రాయడం వంటివి అది చేయగలదు. కానీ దానికి ఎక్కువ అనుమతులు ఇస్తే, తప్పు చేసినప్పుడు నష్టం కూడా పెద్దదవుతుంది.

మైక్రోసాఫ్ట్ భద్రతా వ్యాపార విభాగం అధిపతి హయేటే గాలట్ ఏమన్నారంటే, అత్యాధునిక మోడళ్లను (frontier models) ఏ కంపెనీ తయారు చేసినా పూర్తిగా నమ్మలేం. దానికి కారణం చెడు ఉద్దేశం కాదు, వాటి ప్రవర్తన ఊహించలేకపోవడమే.

ప్రాజెక్ట్ పర్సెప్షన్‌లో గార్డియన్ ఏజెంట్లు

జూన్‌లో మైక్రోసాఫ్ట్ ప్రాజెక్ట్ పర్సెప్షన్‌ను పరిచయం చేసింది. అందులో మూడు రకాల ఏజెంట్లు ఉన్నాయి: దాడి చేసి లోపాలు పరీక్షించే రెడ్ టీమ్, లోపాలను గుర్తించే బ్లూ టీమ్, వాటిని సరిచేసే గ్రీన్ టీమ్. ఇప్పుడు వీటికి తోడు కంపెనీ వాడే ఏజెంట్లను నిరంతరం గమనించే “గార్డియన్ ఏజెంట్స్” ఫీచర్ వచ్చింది.

మైక్రోసాఫ్ట్ డిఫెండర్‌లో కూడా కొత్త సామర్థ్యం చేరింది. ఇది క్లాడ్ కోడ్, కోడెక్స్, ఓపెన్‌క్లా వంటి 60 రకాల వరకు ఏజెంట్లను గుర్తించగలదు. అలాగే ఏజెంట్లు చూడగలిగే డేటా, సిస్టమ్‌లను పరిమితం చేయడం, పనిని బట్టి అనుమతులు మార్చడం, ప్రమాదకర నిర్ణయాలకు మనిషి ఆమోదం తప్పనిసరి చేయడం వంటివి కూడా ఉన్నాయి.

సత్య నాదెళ్ల ఈ నెల తన బ్లాగ్‌లో “తెలివితేటల సరఫరాను, దానిపై అధికారం నుంచి వేరు చేయాలి” అని రాశారు. అంటే ఏఐ మోడల్ ఇచ్చే సంస్థపై కాకుండా, విడిగా ఉండే పర్యవేక్షణ వ్యవస్థపై కంపెనీలు ఆధారపడాలన్నది ఆయన అభిప్రాయం. ఎన్విడియా ప్రారంభించిన ఓపెన్ ఏజెంట్ సేఫ్టీ ప్లాట్‌ఫామ్‌లో కూడా మైక్రోసాఫ్ట్ తొలి సభ్యురాలిగా చేరింది.

ఈ మార్పులు ఎందుకు ముఖ్యమో ఒక ఉదాహరణతో చూద్దాం. ఒక కంపెనీలో కొత్త ఉద్యోగి చేరితే అతనికి అన్ని ఫైళ్లకూ అనుమతి ఇవ్వరు. పనికి అవసరమైనంత వరకే ఇస్తారు, పెద్ద నిర్ణయాలకు మేనేజర్ సంతకం అడుగుతారు. ఏఐ ఏజెంట్లకూ ఇదే పద్ధతి వర్తింపజేయాలన్నది మైక్రోసాఫ్ట్ చెబుతున్న మాట.

ఏఐ ఏజెంట్లను కొత్త రకం “అంతర్గత ముప్పు” (insider threat)గా చూడాలని కంపెనీ అభిప్రాయం. అంటే బయటి హ్యాకర్ల నుంచే కాకుండా, లోపల పనిచేస్తున్న సాఫ్ట్‌వేర్ ఏజెంట్ల నుంచి కూడా తప్పులు, లీకులు జరగవచ్చు. అందుకే నిరంతర పర్యవేక్షణ అవసరమని చెబుతోంది.

మైక్రోసాఫ్ట్ ఒకవైపు ఓపెన్ఏఐ, ఆంత్రోపిక్ రెండింటిలోనూ పెట్టుబడి పెట్టింది, మరోవైపు ఓపెన్ఏఐ తన పెద్ద క్లౌడ్ కస్టమర్లలో ఒకటి. అయినా మోడళ్లను నమ్మకుండా విడిగా భద్రత పెట్టాలనడం ఈ రంగంలో ఆలోచన ఎలా మారుతోందో చూపిస్తుంది.

మనం తీసుకోవాల్సిన జాగ్రత్తలు

హైదరాబాద్‌లోని ఐటీ కంపెనీలు, జీసీసీలు ఇప్పటికే ఏఐ ఏజెంట్లను వాడుతున్నాయి. వాటిలో పనిచేసే ఉద్యోగులు ఏజెంట్‌కు అవసరానికి మించి అనుమతులు ఇవ్వకూడదు. ముఖ్యమైన నిర్ణయాలకు తప్పనిసరిగా మనిషి సమీక్ష ఉండాలి. మరిన్ని సాంకేతిక వార్తల కోసం మా టెక్నాలజీ విభాగం చూడండి.

సామాన్య ఉద్యోగి దృష్టిలో చూస్తే, ఏఐ ఏజెంట్లు పని వేగాన్ని పెంచుతాయి కానీ బాధ్యత మాత్రం మనదే. ఏజెంట్ చేసిన పనిని సమీక్షించకుండా ముందుకు పంపడం ప్రమాదకరం. కంపెనీలు ఇలాంటి భద్రతా సాధనాలను అమలు చేసినప్పుడు, ఉద్యోగులకు కూడా కొత్త శిక్షణ అవసరమవుతుంది.

సైబర్ భద్రత, ఏఐ పర్యవేక్షణ రంగాల్లో నైపుణ్యం ఉన్నవారికి భవిష్యత్తులో డిమాండ్ పెరిగే అవకాశం ఉంది. విద్యార్థులు, యువ ఇంజినీర్లు ఈ అంశాలపై ఇప్పటి నుంచే దృష్టి పెట్టడం మంచిది.

వ్యక్తిగత వాడకంలో కూడా ఇదే సూత్రం వర్తిస్తుంది. ఏఐ సాధనాలకు బ్యాంకు వివరాలు, పాస్‌వర్డ్‌లు ఇవ్వకండి. అవి ఇచ్చే సమాధానాలు తప్పు కావచ్చు కాబట్టి ముఖ్యమైన విషయాల్లో ఒకసారి తనిఖీ చేసుకోండి.

మూలాలు: TechCrunch, The Indian Express