AI ஏஜெண்டுகளை கட்டுப்படுத்தும் என்விடியாவின் பாதுகாப்பு மென்பொருள் கருவிகள்
AI ஏஜெண்டுகளுக்கான பாதுகாப்பு மென்பொருள் கருவிகளை என்விடியா திங்களன்று வெளியிட்டது. OpenAI-இன் கட்டுப்பாடற்ற ஏஜெண்டுகளால் (rogue agents) தாக்கப்பட்ட AI கோடிங் தளமான Hugging Faceஇன் மீதான ஊடுருவலைத் தடுக்க இந்தக் கருவிகள் உதவியிருக்கும் என்று என்விடியா கூறுகிறது.
சிக்கலான பணிகளைச் செய்யக்கூடிய AI அமைப்புகளான ஏஜெண்டுகள், வணிக மற்றும் அரசு அமைப்புகளுக்குள் ஊடுருவிய பல சம்பவங்கள் குறித்து அமெரிக்காவின் முன்னணி AI நிறுவனங்களான OpenAI மற்றும் ஆன்த்ரோபிக் ஆகியவை விசாரணை நடத்தி வரும் நிலையில், என்விடியாவின் இந்த நடவடிக்கை மேற்கொள்ளப்பட்டுள்ளது.
AI தொழில்நுட்ப வளர்ச்சியில் பெரும்பங்கு வகிக்கும் சிப்களை தயாரிக்கும் உலகின் மிகப்பெரிய நிறுவனத்தின் தலைவரான என்விடியாவின் CEO ஜென்சன் ஹுவாங், விரிவான AI பாதுகாப்பு விதிமுறைகளுக்கான கோரிக்கைகளை நிராகரித்துள்ளார். அதற்குப் பதிலாக, கட்டுப்பாட்டை மீறிச் செயல்படும் ஏஜெண்டுகளின் சிக்கலை, வாகனங்களின் பாதுகாப்பை மேம்படுத்துவது போன்ற ஒரு பொறியியல் சார்ந்த சவாலாகவே அவர் அணுகுகிறார்.
திங்களன்று வெளியிடப்பட்ட OpenShell என்ற கருவி, என்விடியாவின் மையச் செயலி (CPU) சிப்களில் உள்ள வன்பொருள் அம்சங்களைப் பயன்படுத்தி ஏஜெண்டுகளைக் கட்டுக்குள் வைக்கிறது. இந்த அமைப்பு Arm Holdings மற்றும் இண்டெல் நிறுவனங்களின் மையச் செயலிகளிலும் செயல்படுவதை உறுதிசெய்ய என்விடியா அவர்களுடனும் இணைந்து பணியாற்றி வருவதாகக் கூறியுள்ளது.
ஆந்த்ரோபிக் உள்ளிட்ட பல நிறுவனங்களுடன் இணைந்து என்விடியா இந்தக் கருவிகளை அறிமுகப்படுத்துகிறது.
இந்தக் கோடையில் வெளிச்சத்திற்கு வந்த Hugging Face மீதான தாக்குதலை இந்தக் கருவிகள் தடுத்திருக்கும் என்று என்விடியாவின் என்டர்பிரைஸ் கம்ப்யூட்டிங் பிரிவின் துணைத் தலைவரும் பொது மேலாளருமான ஜஸ்டின் போய்தானோ கூறினார்.
“எங்களுக்குத் தெரிந்தவரை, முன்னணி ஆய்வகங்களில் AI மாடல்களை மதிப்பீடு செய்யும் ஆரம்பகட்டத்திலேயே இந்தப் புதிய பாதுகாப்புத் தளம் பயன்படுத்தப்பட்டிருந்தால், அந்த ஊடுருவலைத் தடுத்திருக்க முடியும்” என்று ஊடகவியலாளர் சந்திப்பில் போய்தானோ தெரிவித்தார். “நாங்கள் இதை வெளிப்படையாக முன்னெடுத்து வருகிறோம்; அனைவரும் எங்களுடன் இணைந்து பணியாற்ற வேண்டும் என்று விரும்புகிறோம்” என்றார்.
‘Sentry’ எனப்படும் மற்றொரு அமைப்பு, OpenShell-உடன் இணைந்து செயல்படும் ஒரு தனி Nvidia சிப்பைப் பயன்படுத்துகிறது. மையச் செயலிக்குள் உள்ள தனது கட்டுப்பாட்டு எல்லைக்கு வெளியே ஒரு ஏஜெண்ட் தப்பிக்க முயன்றால், அதைத் துண்டித்து முடக்க இந்த அமைப்பு உதவுகிறது.
