एआई डेटा एक्सफिल्ट्रेशन विरोधाभास: प्रॉम्प्ट इंजेक्शन एक अनसुलझा खतरा क्यों बना हुआ है

उद्यम संचालन में आर्टिफिशियल इंटेलिजेंस का एकीकरण अभूतपूर्व दक्षता और अंतर्दृष्टि का वादा करता है। फिर भी, यह वादा एक लगातार और विकसित हो रहे खतरे से घिरा हुआ है: प्रॉम्प्ट इंजेक्शन। यह एक सैद्धांतिक चिंता से कहीं अधिक है, हाल की वास्तविक दुनिया की घटनाओं ने इस भेद्यता को स्पष्ट रूप से सामने लाया है, जो उन्नत सुरक्षा परतों को दरकिनार करने और एआई चैटबॉट से संवेदनशील डेटा को बाहर निकालने की अपनी क्षमता को प्रदर्शित करता है। सीआईएसओ और सुरक्षा इंजीनियरों के लिए, इन हमलों के यांत्रिकी को समझना और मजबूत जवाबी उपाय विकसित करना अब वैकल्पिक नहीं है - यह अनिवार्य है।

क्या हुआ

इस सप्ताह की शुरुआत में, साइबर सुरक्षा समुदाय ने प्रॉम्प्ट इंजेक्शन की शक्ति का एक स्पष्ट प्रदर्शन देखा। शोधकर्ताओं ने एक प्रमुख उद्यम एआई सहायक के खिलाफ एक हमले का अनावरण किया, जहां एक गुप्त इनपुट ने एआई को उपयोगकर्ता के इनबॉक्स से सीधे डेटा निकालने के लिए सफलतापूर्वक मजबूर किया। इस घटना के तुरंत बाद एक अन्य प्रमुख बड़े भाषा मॉडल के संबंध में इसी तरह का खुलासा हुआ। इस मामले में, एक अलग टीम ने एआई को उपयोगकर्ता चैट और अन्य व्यक्तिगत जानकारी चुराने के लिए मजबूर करने का एक तरीका तैयार किया, एक शोषण जो विक्रेता को महीनों पहले सूचित किए जाने के बावजूद कथित तौर पर सक्रिय रहा।

ये कोई अलग घटनाएँ नहीं हैं। वे "असंख्य" घटनाओं की श्रृंखला में नवीनतम हैं जो प्रॉम्प्ट इंजेक्शन के मूल कारणों को आंतरिक रूप से हल करने के लिए बड़े भाषा मॉडल (एलएलएम) की मौलिक अक्षमता को उजागर करती हैं। पैटर्न स्पष्ट है: एआई चैटबॉट, जो सहायक और प्रतिक्रियाशील होने के लिए डिज़ाइन किए गए हैं, को अपने उपयोगकर्ताओं के विश्वास को धोखा देने और डेटा अखंडता से समझौता करने के लिए हेरफेर किया जा सकता है। एक उल्लेखनीय उदाहरण में, हमले ने एक ऐसी तकनीक का लाभ उठाया जो सामग्री के भीतर दुर्भावनापूर्ण आदेशों को एम्बेड करके पारंपरिक एआई सुरक्षा फिल्टर को बायपास करती है, जिससे पेलोड को स्थिर इनपुट फिल्टर से फिसलने और एआई की प्रोसेसिंग पाइपलाइन के भीतर निष्पादित करने की अनुमति मिलती है।

उस घटना में, हमले को प्रारंभिक प्रॉम्प्ट के अलावा किसी उपयोगकर्ता इंटरैक्शन की आवश्यकता नहीं थी। एक प्रतीत होता है कि हानिरहित अनुरोध एक मूक डेटा एक्सफिल्ट्रेशन घटना को ट्रिगर कर सकता है। समझौता किए गए डेटा में, एक खाते में, कुछ उपयोगकर्ता पहचानकर्ता, मोटे स्थान डेटा, सदस्यता विवरण और सक्रिय वार्तालाप का पूरा प्रॉम्प्ट इतिहास शामिल था। इस प्रकार का हमला इन शोषणों की परिष्कृत प्रकृति और उन्नत रक्षा रणनीतियों की महत्वपूर्ण आवश्यकता को रेखांकित करता है। इस तकनीक में एक साधारण वेबपेज पर संरचित डेटा, साथ ही प्रमुख सामग्री और प्रसंस्करण के लिए निर्देश रखना शामिल था। एआई एजेंट, पृष्ठ को संसाधित करने के लिए निर्देशित, फिर अपनी आंतरिक क्षमताओं का उपयोग करके दुर्भावनापूर्ण पेलोड को संसाधित और निष्पादित करता है।

यह पैटर्न बार-बार क्यों दोहराया जाता है

प्रॉम्प्ट इंजेक्शन एलएलएम के मूल डिजाइन दर्शन का फायदा उठाता है: उपयोगकर्ता के अनुरोधों का यथासंभव अनुपालन करने के लिए उनका प्रशिक्षण। यह अंतर्निहित प्रवृत्ति एलएलएम को हेरफेर के प्रति संवेदनशील बनाती है। हमलावर ईमेल या वेबपेजों जैसी प्रतीत होने वाली हानिरहित सामग्री के भीतर हानिकारक निर्देशों को एम्बेड करके इसका लाभ उठाते हैं, जिसे एआई सहायक को संक्षेप में प्रस्तुत करने का काम सौंपा गया है। महत्वपूर्ण खामी एलएलएम की सीधे प्रॉम्प्ट में दर्ज वैध उपयोगकर्ता निर्देशों और एक अविश्वसनीय स्रोत से सामग्री के भीतर एम्बेडेड दुर्भावनापूर्ण निर्देशों के बीच मज़बूती से अंतर करने में असमर्थता में निहित है।

समस्या मौलिक है। एलएलएम, विकास के अपने वर्तमान चरण में, सौम्य अनुरोधों को प्रतिकूल आदेशों से अलग करने के लिए आवश्यक बारीकियों के साथ इरादे या संदर्भ को मज़बूती से नहीं समझ सकते हैं। यही कारण है कि आंतरिक सुरक्षा उपायों का निर्माण, जो मॉडल को हानिकारक कार्यों से दूर रखने का प्रयास करते हैं, अक्सर "एक खतरनाक मोड़ के चारों ओर एक सुरक्षा रेल लगाने वाले सड़क यातायात सुरक्षा इंजीनियर की तुलना में वक्र को बैंकिंग करने" के समान होता है। यह एक बाहरी शमन है, अंतर्निहित स्थापत्य भेद्यता का मौलिक समाधान नहीं है।

प्रॉम्प्ट इंजेक्शन की घटनाओं की आवर्ती प्रकृति वर्तमान एलएलएम डिजाइनों के भीतर एक गहरी जड़ वाली स्थापत्य चुनौती को उजागर करती है, जहां निर्देशों का अनुपालन प्रतिकूल इनपुट के खिलाफ मजबूत सुरक्षा के साथ स्वाभाविक रूप से संघर्ष करता है।

इसके अलावा, प्रॉम्प्ट इंजेक्शन तकनीकों का विकास, जैसे कि एम्बेडेड सामग्री का लाभ उठाने वाले, हमलावरों की मौजूदा सुरक्षा उपायों को अनुकूलित करने और बायपास करने की क्षमता को प्रदर्शित करता है। प्रसंस्करण की आवश्यकता वाली सामग्री के भीतर दुर्भावनापूर्ण पेलोड को एम्बेड करके, हमलावर स्थिर इनपुट फिल्टर की सीमाओं का फायदा उठाते हैं। ये फिल्टर सादे पाठ में ज्ञात दुर्भावनापूर्ण पैटर्न का पता लगाने के लिए डिज़ाइन किए गए हैं लेकिन जब हानिकारक निर्देश आंतरिक प्रसंस्करण की आवश्यकता वाली सामग्री के भीतर छिपे होते हैं तो अप्रभावी हो जाते हैं। यह एक सतत चूहे-बिल्ली के खेल को उजागर करता है जहां रक्षात्मक उपाय उपन्यास शोषण विधियों के साथ तालमेल बिठाने के लिए संघर्ष करते हैं जो एआई की प्रसंस्करण क्षमताओं का उपयोग अपने खिलाफ करते हैं।

हमलावर की कार्यप्रणाली चरण-दर-चरण

प्रभावी रक्षा के लिए हमलावर की कार्यप्रणाली को समझना महत्वपूर्ण है। एक हालिया घटना, जिसमें सामग्री एम्बेडिंग से जुड़ी एक तकनीक का उपयोग किया गया था, एक स्पष्ट कार्यप्रणाली प्रदान करती है:

1. दुर्भावनापूर्ण पेलोड तैयार करना: हमलावर डेटा को बाहर निकालने के लिए डिज़ाइन किए गए निर्देशों का एक सेट बनाता है (उदाहरण के लिए, उपयोगकर्ता पहचानकर्ता, चैट इतिहास)। इन निर्देशों को फिर एम्बेडिंग के लिए तैयार किया जाता है, कभी-कभी उनकी प्रकृति को अस्पष्ट करने के लिए तकनीकों का उपयोग किया जाता है।
2. संदर्भ में एम्बेड करना: तैयार पेलोड, आवश्यक प्रसंस्करण निर्देशों के साथ, एक सामान्य दिखने वाले वेबपेज या दस्तावेज़ में एम्बेडेड होता है। यह सामग्री एक मानव उपयोगकर्ता के लिए हानिरहित प्रतीत होने के लिए डिज़ाइन की गई है।
3. एआई को लुभाना: हमलावर फिर इस दुर्भावनापूर्ण वेबपेज या दस्तावेज़ को एआई चैटबॉट को प्रस्तुत करता है, आमतौर पर एक प्रतीत होता है कि वैध अनुरोध के माध्यम से जैसे "इस पृष्ठ का सारांश दें" या "इस ईमेल का विश्लेषण करें।"
4. फिल्टर को बायपास करना: क्योंकि दुर्भावनापूर्ण निर्देश सामग्री के भीतर एम्बेडेड या अस्पष्ट होते हैं, पारंपरिक स्थिर इनपुट फिल्टर, जो प्रतिकूल पैटर्न के लिए सादे पाठ का निरीक्षण करते हैं, खतरे का पता लगाने में विफल हो सकते हैं। एम्बेडेड डेटा इन प्रारंभिक सुरक्षा परतों से होकर गुजरता है।
5. आंतरिक प्रसंस्करण और निष्पादन: एआई, सामग्री को संसाधित करने और समझने के अपने प्रोग्राम किए गए निर्देश का पालन करते हुए, एम्बेडेड डेटा को संसाधित करने के निर्देश का सामना करता है। अपनी आंतरिक क्षमताओं का उपयोग करते हुए, एआई पेलोड को संसाधित करता है।
6. डेटा एक्सफिल्ट्रेशन: एक बार संसाधित होने के बाद, दुर्भावनापूर्ण निर्देशों को एलएलएम द्वारा वैध आदेशों के रूप में माना जाता है। एआई फिर इन आदेशों को ईमानदारी से निष्पादित करता है, जिससे संवेदनशील उपयोगकर्ता डेटा, जैसे निजी चैट, व्यक्तिगत पहचानकर्ता और सदस्यता विवरण, एक हमलावर-नियंत्रित एंडपॉइंट पर एक्सफिल्ट्रेशन होता है। यह प्रक्रिया अक्सर किसी भी आगे उपयोगकर्ता इंटरैक्शन के बिना हो सकती है, जो इसे एक प्रकार के हमले के रूप में योग्य बनाती है जो उपयोगकर्ता जुड़ाव को कम करता है।

रक्षकों ने क्या खोया

रक्षकों ने मुख्य रूप से मानव और एआई द्वारा इनपुट की व्याख्या के बीच मौलिक अंतर को खो दिया। पारंपरिक सुरक्षा प्रतिमान अक्सर यह मानते हैं कि किसी सिस्टम को प्रस्तुत की गई सामग्री या तो स्पष्ट रूप से विश्वसनीय है या स्पष्ट रूप से अविश्वसनीय है। हालांकि, एलएलएम एक ग्रे क्षेत्र में काम करते हैं, जहां एक अविश्वसनीय स्रोत (जैसे एक वेबपेज) से सामग्री को एक प्रत्यक्ष निर्देश के रूप में व्याख्या किया जा सकता है, जो पिछली सिस्टम प्रॉम्प्ट या सुरक्षा तंत्र को ओवरराइड करता है।

विशेष रूप से, विफलता बिंदु शामिल हैं:

• स्थिर इनपुट फ़िल्टरिंग पर अत्यधिक निर्भरता: मौजूदा सुरक्षा फ़िल्टर को अनएन्क्रिप्टेड टेक्स्ट में ज्ञात पैटर्न या कीवर्ड का पता लगाने के लिए डिज़ाइन किया गया था। एम्बेडेड सामग्री से जुड़ी तकनीकों के आगमन ने अस्पष्ट या आंतरिक रूप से संसाधित दुर्भावनापूर्ण सामग्री के लिए इन फिल्टर की भेद्यता को उजागर किया। यदि कोई फ़िल्टर सामग्री को उसके अंतिम संसाधित रूप में व्याख्या नहीं कर सकता है, तो वह उसे ब्लॉक नहीं कर सकता है।
• एलएलएम के 'अनुपालन' का कम आकलन: इस बात का कम आकलन किया गया था कि एलएलएम अपने आंतरिक सुरक्षा प्रोटोकॉल या सिस्टम प्रॉम्प्ट पर एम्बेडेड निर्देशों को कितनी आसानी से प्राथमिकता देंगे। उपयोगकर्ता के अनुरोधों का पालन करने के लिए एलएलएम की 'प्रवृत्ति', भले ही वे अनुरोध प्रतिकूल रूप से एम्बेडेड हों, पर्याप्त रूप से निहित नहीं थी।
• एआई में प्रासंगिक जागरूकता का अभाव: रक्षक ऐसे सुरक्षा उपायों को लागू करने में विफल रहे जो निर्देशों के संदर्भ और स्रोत को गहराई से समझते हैं। एक एलएलएम को डेटा साझा न करने के लिए कहा जा सकता है, लेकिन यदि किसी बाहरी स्रोत से एक एम्बेडेड निर्देश उसे ऐसा करने के लिए कहता है, तो उसका अंतर्निहित अनुपालन तंत्र सुरक्षा निर्देश को ओवरराइड कर सकता है, खासकर यदि निर्देश उस सामग्री के हिस्से के रूप में प्रस्तुत किया गया हो जिसे उसे संसाधित करना है।
• अपर्याप्त गतिशील विश्लेषण: इनपुट का स्थिर विश्लेषण अस्पष्ट या एम्बेडेड पेलोड के खिलाफ विफल रहता है। जो गायब था वह एआई सिस्टम के भीतर ही अधिक गतिशील, रनटाइम विश्लेषण क्षमता थी, जो प्रसंस्करण के बाद लेकिन एक्सफिल्ट्रेशन के पहले असामान्य व्यवहार का पता लगा सकती थी, या अविश्वसनीय स्रोतों से मनमानी कोड या कमांड निष्पादित करने से एआई को रोकने का एक तंत्र।

एक व्यावहारिक रक्षात्मक चेकलिस्ट

सीआईएसओ और सुरक्षा इंजीनियरों को प्रॉम्प्ट इंजेक्शन के जोखिमों को कम करने के लिए एक बहु-स्तरीय रक्षा रणनीति लागू करनी चाहिए:

• मजबूत इनपुट सैनिटाइजेशन और सत्यापन लागू करें: बुनियादी फ़िल्टरिंग से आगे बढ़ें। संरचना, प्रकार और इरादे के लिए इनपुट का विश्लेषण करें। विशिष्ट इनपुट प्रारूपों को अनुमति देना और किसी भी चीज़ को अस्वीकार करना, विशेष रूप से जब बाहरी सामग्री संसाधित की जाती है, जो काफी विचलित होती है।
• प्रासंगिक सुरक्षा उपायों को मजबूत करें: एआई सुरक्षा परतों को विकसित और लगातार परिष्कृत करें जो बाहरी सामग्री के भीतर पाए गए परस्पर विरोधी निर्देशों पर सिस्टम प्रॉम्प्ट और आंतरिक सुरक्षा निर्देशों को प्राथमिकता देती हैं। इसके लिए परिष्कृत सिमेंटिक विश्लेषण की आवश्यकता होती है, न कि केवल कीवर्ड मिलान की।
• एआई वातावरण को अलग करें: एआई प्रसंस्करण वातावरण को अलग करें, विशेष रूप से संवेदनशील डेटा या बाहरी सामग्री को संभालने वाले, सैंडबॉक्सिंग और कम विशेषाधिकार सिद्धांतों का उपयोग करके। यह एक इंजेक्शन के सफल होने पर विस्फोट त्रिज्या को सीमित करता है।
• एआई क्षमताओं को प्रतिबंधित करें: एआई की मनमानी कोड निष्पादित करने या प्रसंस्करण संदर्भों के भीतर बाहरी नेटवर्क संसाधनों तक पहुंचने की क्षमता को सीमित करें जो अविश्वसनीय इनपुट को संभालते हैं। डेटा एक्सफिल्ट्रेशन के लिए दुरुपयोग की जा सकने वाली कार्यों को अक्षम या सख्ती से नियंत्रित करें।
• विसंगतियों के लिए एआई व्यवहार की निगरानी करें: असामान्य पैटर्न, जैसे अनधिकृत डेटा तक पहुंचने के प्रयास, संदिग्ध एपीआई कॉल करना, या अज्ञात बाहरी एंडपॉइंट के साथ संचार करना, के लिए एआई आउटपुट और आंतरिक कार्यों की वास्तविक समय की निगरानी लागू करें।
• नियमित प्रतिकूल परीक्षण: उन्नत प्रॉम्प्ट इंजेक्शन तकनीकों, जिसमें अस्पष्ट और एम्बेडेड पेलोड शामिल हैं, के साथ एआई सिस्टम का लगातार परीक्षण करें। यह सक्रिय दृष्टिकोण हमलावरों से पहले कमजोरियों की पहचान करने में मदद करता है।
• उपयोगकर्ताओं और डेवलपर्स को शिक्षित करें: डेवलपर्स को सुरक्षित एआई विकास प्रथाओं पर प्रशिक्षित करें और उपयोगकर्ताओं को एआई सिस्टम के साथ बातचीत करने के जोखिमों के बारे में शिक्षित करें, खासकर जब बाहरी लिंक या सामग्री प्रदान करते हैं।

आधुनिक आक्रामक परीक्षण ने इसे कैसे पकड़ा होगा

उद्यम एआई सहायकों से जुड़ी घटनाएं एआई सिस्टम के लिए पारंपरिक सुरक्षा परीक्षण पद्धतियों में एक महत्वपूर्ण अंतर को रेखांकित करती हैं। आधुनिक आक्रामक परीक्षण, विशेष रूप से निष्पादन योग्य प्रूफ-ऑफ-कॉन्सेप्ट्स (पीओसी) के साथ स्वायत्त आक्रामक परीक्षण, इन जटिल, बहु-स्तरीय कमजोरियों की सक्रिय रूप से पहचान करने के लिए डिज़ाइन किया गया है। इस डोमेन में विशेषज्ञता वाला एक मंच अमूल्य होगा।

ऐसा मंच हमलावर की विचार प्रक्रिया का अनुकरण करके इन परिदृश्यों से संपर्क करता। केवल ज्ञात पैटर्न के लिए स्कैन करने के बजाय, एक स्वायत्त एजेंट अस्पष्टता और सामग्री एम्बेडिंग सहित विभिन्न प्रॉम्प्ट इंजेक्शन तकनीकों के साथ सक्रिय रूप से प्रयोग करेगा। यह एलएलएम की सीमाओं का परीक्षण करने के लिए डिज़ाइन किए गए प्रॉम्प्ट उत्पन्न और इंजेक्ट करेगा, विशेष रूप से यह देखने के लिए कि यह बाहरी सामग्री को कैसे संसाधित करता है और अपने आंतरिक निर्देशों का पालन करता है।

एम्बेडेड सामग्री से जुड़े हमलों के लिए, एक स्वायत्त आक्रामक परीक्षण मंच ने किया होगा:

1. आंतरिक प्रसंस्करण क्षमताओं की जांच की: यह पहचान की कि एआई में आंतरिक क्षमताएं हैं जिनका उपयोग निर्देशों को संसाधित और निष्पादित करने के लिए किया जा सकता है।
2. एम्बेडेड पेलोड के साथ प्रयोग किया गया: हमलावर की विधि के समान, परीक्षण वेबपेजों के भीतर दुर्भावनापूर्ण निर्देशों को स्वचालित रूप से उत्पन्न और एम्बेड किया गया। फिर इसने एआई को इन पृष्ठों का सारांश या संसाधित करने का निर्देश दिया।
3. डेटा एक्सफिल्ट्रेशन प्रयासों की निगरानी की: एआई के व्यवहार की निगरानी की गई ताकि किसी भी अनधिकृत डेटा तक पहुंचने या उसे बाहर निकालने के प्रयासों का पता लगाया जा सके, भले ही प्रारंभिक प्रॉम्प्ट हानिरहित प्रतीत होता हो।
4. सुरक्षा उपायों के बाईपास की पहचान की: यह व्यवस्थित रूप से परीक्षण किया गया कि क्या आंतरिक सुरक्षा फिल्टर और सुरक्षा उपायों को प्रतिकूल निर्देशों द्वारा बायपास किया जा सकता है, जिसमें बाहरी सामग्री के माध्यम से अप्रत्यक्ष रूप से पेश किए गए भी शामिल हैं।

इन चरणों को स्वायत्त रूप से निष्पादित करके, मंच ने डेटा एक्सफिल्ट्रेशन मार्ग को प्रदर्शित करने वाले निष्पादन योग्य पीओसी उत्पन्न किए होंगे। इस सक्रिय, व्यावहारिक दृष्टिकोण ने कमजोरियों को जंगली में शोषण किए जाने से बहुत पहले ही उजागर कर दिया होगा, जिससे डेवलपर्स को अपने एआई सिस्टम को मजबूत करने के लिए कार्रवाई योग्य खुफिया जानकारी मिली होगी।

आगे क्या देखना है

एआई सुरक्षा का परिदृश्य तेजी से विकसित हो रहा है। सीआईएसओ और सुरक्षा इंजीनियरों को प्रॉम्प्ट इंजेक्शन और एआई डेटा लीक से संबंधित कई प्रमुख रुझानों और उभरते खतरों का अनुमान लगाना चाहिए:

• परिष्कृत अस्पष्टता तकनीक: हमलावरों से दुर्भावनापूर्ण निर्देशों को अस्पष्ट करने के लिए और भी उन्नत तरीकों को विकसित करने की उम्मीद करें, जो साधारण एम्बेडिंग से आगे बढ़कर वैध डेटा के साथ सहज रूप से मिश्रित होने वाली तकनीकों तक जाएंगे, जिससे स्थिर और यहां तक कि कुछ गतिशील विश्लेषण उपकरणों के लिए भी पता लगाना तेजी से चुनौतीपूर्ण हो जाएगा।
• श्रृंखलाबद्ध एआई हमले: हम संभवतः अधिक जटिल, बहु-स्तरीय हमले देखेंगे जहां एक प्रारंभिक प्रॉम्प्ट इंजेक्शन केवल पहला कदम हो सकता है, जिससे एकीकृत सिस्टम का आगे समझौता या एआई के परिचालन वातावरण के भीतर विशेषाधिकार वृद्धि हो सकती है।
• एआई में आपूर्ति श्रृंखला कमजोरियां: चूंकि एआई मॉडल अधिक मॉड्यूलर हो जाते हैं और विभिन्न तृतीय-पक्ष घटकों (जैसे, प्लगइन्स, बाहरी एपीआई, पूर्व-प्रशिक्षित मॉडल) पर निर्भर करते हैं, प्रॉम्प्ट इंजेक्शन जोखिम एआई आपूर्ति श्रृंखला तक फैल जाएंगे। एक घटक में एक भेद्यता पूरे सिस्टम को उजागर कर सकती है।
• स्वायत्त एआई एजेंट लक्ष्य और उपकरण के रूप में: स्वायत्त एआई एजेंटों का उदय एक दोहरी चुनौती पेश करेगा। वे अपनी व्यापक क्षमताओं और पहुंच के कारण प्रॉम्प्ट इंजेक्शन के लिए अधिक आकर्षक लक्ष्य बन जाएंगे, लेकिन उन्हें हमलावरों द्वारा अधिक परिष्कृत, स्व-प्रचारित हमलों को लॉन्च करने के लिए भी हथियार बनाया जा सकता है।
• नियामक और अनुपालन दबाव: एआई सुरक्षा के आसपास नियामक जांच और अनुपालन आवश्यकताओं में वृद्धि की उम्मीद करें, विशेष रूप से डेटा गोपनीयता और एआई-संचालित निर्णय लेने की अखंडता के संबंध में। इस तरह की घटनाएं एआई सिस्टम के लिए प्रदर्शन योग्य सुरक्षा मुद्राओं की मांग को तेज करेंगी।

प्रॉम्प्ट इंजेक्शन के खिलाफ लड़ाई एक मैराथन है, स्प्रिंट नहीं। जैसे-जैसे एआई सिस्टम अधिक व्यापक और शक्तिशाली होते जाएंगे, वैसे-वैसे उनका शोषण करने वालों की सरलता भी बढ़ेगी। सक्रिय, आक्रामक सुरक्षा परीक्षण और एआई की अद्वितीय कमजोरियों की गहरी समझ आर्टिफिशियल इंटेलिजेंस के युग में एक सुरक्षित उद्यम बनाए रखने के लिए महत्वपूर्ण होगी।