आजच्या काळात 'आर्टिफिशियल इंटेलिजन्स' (एआय) कसं काम करतं, यापेक्षा ते 'नैतिक' आहे का, हा प्रश्न जास्त महत्त्वाचा ठरतोय. कोल्हापूरचे युवा शास्त्रज्ञ विजय कानडे यांनी याच प्रश्नाचा वेध घेत 'SEDE' नावाचं एक विशेष सर्च इंजिन तयार केलं आहे. उपलब्ध एआयना नैतिक निकष लावण्यासाठीचं हे इंजिन आहे. त्याविषयी त्यांच्याशी केलेली ही बातचीत.

हे 'SEDE' सर्च इंजिन म्हणजे नेमकं काय आहे? हे गुगलपेक्षा कसं वेगळं आहे?

सोप्या भाषेत सांगायचं तर, गुगल आपल्याला 'माहिती' शोधून देतं, पण SEDE त्या माहितीचा किंवा निर्णयाचा 'नैतिक दर्जा' तपासतं. समजा, तुम्ही गुगलवर शोधलं की "ड्रोन कसा उडवायचा?", तर गुगल तुम्हाला त्याचे तांत्रिक नियम सांगेल. पण SEDE हे एका बॅकएंड इंजिनसारखं काम करतं. ते विचार करतं की, "हा ड्रोन औषधं पोहोचवण्यासाठी वापरला जातोय की कोणावर हल्ला करण्यासाठी?" हे 'सर्च इंजिन' माहितीसोबतच 'निर्णय प्रक्रियेवर' लक्ष केंद्रित करतं. हे यंत्रणेला "काय करायचं?" याबरोबरच "हे करणं योग्य आहे का?" असा प्रश्न विचारायला लावतं.

'SEDE' म्हणजे Synthetic Ethical Dialectics Engine

• Synthetic: मानवनिर्मित एआय प्रणाली.

• Ethical: केंद्रस्थानी असलेली नैतिकता (चांगलं-वाईट ठरवण्याची क्षमता).

• Dialectics: जेव्हा दोन विचारांत संघर्ष असतो, तेव्हा संवाद साधून योग्य मार्ग काढण्याची पद्धत.

• Engine: पडद्यामागून सतत काम करणारी यंत्रणा.

आपलं तंत्रज्ञान किती 'वेगवान' आहे, यापेक्षा ते किती 'न्याय्य' आणि 'पारदर्शक' आहे, याकडे आपण लक्ष दिलं पाहिजे असं म्हणणारा SEDE हा एक विचार आहे.

हेही वाचा - ‘एआय’ला कॉपीराइट मजकूर वापरण्याची मुभा?

अजून हे इंजिन थेट लोकांसाठी उपलब्ध नाहीये. ते सध्या मोठ्या यंत्रणांच्या (उदा. स्वयंचलित गाड्या किंवा हेल्थकेअर) बॅकएंडमध्ये काम करत आहे. आता SEDE बॅकएंडला असण्या-नसण्याने काय फरक पडणार आहे? तर त्यासाठी एक उदाहरण सांगतो. SEDE हे फ्रंटएंडला दिसणारं सर्च टूल नसून, बॅकएंडला सतत काम करणारी ती एक नैतिक निर्णय-यंत्रणा आहे. त्यामुळे SEDE बॅकएंडला आहे की नाही, यावर एआयच्या निर्णयाची दिशा, तर्क आणि परिणाम पूर्णपणे बदलू शकतात.

आता ड्रायव्हरलेस अ‍ॅम्ब्युलन्स आहे. तिचं उद्दिष्ट ठरलेलं असतं, “रुग्णाला लवकरात लवकर हॉस्पिटलला पोहोचवायचं.” मग ते काय करेल? ट्रॅफिक सिग्नल तोडेल, अरुंद वस्तीत वेग वाढवेल, त्यातून पादचाऱ्यांचा धोका वाढवेल. कारण त्याचा अल्गोरिदम फक्त वेग आणि कार्यक्षमता पाहतो. पण तेच जर SEDE बॅकएंडला असेल तर? SEDE तिथे नैतिक ताणतणाव समोर आणतं. ते असे:

1. रुग्णाचे प्राण : रस्त्यावरच्या लोकांची सुरक्षितता

2. वेग : सार्वजनिक धोका

3. तातडी : कायदेशीर व नैतिक जबाबदारी

हेही वाचा - एआयचा जमाना: देखिले डोळा, खरे खोटे समजेना

मग एआयला फक्त “लवकर पोहोच” असं उत्तर न देता, SEDE सांगतं: कुठल्या मार्गावर धोका कमी आहे, कुठे वेग कमी करूनही एकूण जोखीम कमी होईल, आणि “हा निर्णय का घेतला?” याचा कार्यकारणभाव. म्हणजेच, SEDE नसताना एआय ‘जलद’ असतो, पण आंधळा असतो. SEDE असताना एआय ‘थोडा सावध’, पण मानवीय जबाबदारी जपणारा बनतो.

तुम्हाला ही संकल्पना सुचली कशी? काही उदाहरण देऊन सांगाल का?

मला जाणवलं की तंत्रज्ञान वेगाने पुढे जातंय, पण नैतिक विचार मागे पडतोय. आज बँकांमध्ये कोणाला कर्ज द्यायचं, हे एआय ठरवतं. जर एआयने फक्त आकडे बघून गरिबांना कर्ज नाकारलं, तर तो तांत्रिकदृष्ट्या अचूक पण नैतिकदृष्ट्या चुकीचा निर्णय असू शकतो. अशा वेळी एआयने फक्त "हो" किंवा "नाही" न सांगता, "मी हा निर्णय का घेतला?" आणि "याचे सामाजिक परिणाम काय होतील?" याचा विचार केला पाहिजे, यातूनच SEDE जन्माला आलं.

हा प्रकल्प पूर्ण करण्यासाठी किती वेळ लागला? ही कल्पना नक्की कधी सुचली?

कल्पना डोक्यात आल्यानंतर ती पूर्ण व्हायला साधारण दोन वर्षं लागली. २०२४ मध्ये 'AI in Medical Imaging Technology' हे पुस्तक लिहीत असताना एक गोष्ट मला अस्वस्थ करत होती. ती म्हणजे वैद्यकीय तपासणी दरम्यान रुग्णाची खासगी माहिती नकळत लीक होऊ शकते. तसं होऊ नये यासाठी नैतिक चाळणी कशी लावता येईल असा प्रश्न मला पडला. तिथूनच या प्रकल्पाचं बीज मनात पडलं.

हेही वाचा - एआय करेल रोगाचं निदान

हे इंजिन नक्की काम कसं करतं? यात डेटा कसा शोधला जातो?

याच्या काम करण्याच्या तीन पायऱ्या आहेत:

१. परिस्थिती समजून घेणं. एखादी घटना नेमकी काय आहे हे पाहणं.

२. नैतिक संघर्ष तपासणं. जर दोन चांगले पर्याय असतील, तर त्यातला 'जास्त चांगला' कोणता, हे पाहणं.

३. पारदर्शक निर्णय घेणं. त्यासाठी निर्णयाचं कारण स्पष्ट करणं.

आम्ही डेटा इंडेक्स करण्यासाठी गुगलसारखे फक्त कीवर्ड्स वापरत नाही, तर त्या माहितीचा समाजावर काय परिणाम होईल, याचे 'नैतिक टॅग्स' (Ethical Tags) वापरतो.

या प्रक्रियेत सामान्य लोकांच्या खासगी माहितीच्या सुरक्षेचं काय?

आम्ही 'Privacy-first' धोरण ठेवलं आहे. तुमचा डेटा क्लाउडवर किंवा मोठ्या सर्व्हरवर पाठवण्याऐवजी आम्ही 'Local AI agents' वापरतो. यामुळे तुमची माहिती तुमच्याकडेच सुरक्षित राहते. शिवाय, या पद्धतीमुळे विजेची ९० टक्के बचत होते, जे पर्यावरणासाठीही चांगलं आहे.

हे इंजिन मराठी किंवा इतर प्रादेशिक भाषा समजून घेऊ शकतं का?

नक्कीच! भाषा म्हणजे केवळ शब्द नाहीत, तर ती संस्कृती आहे, हे मी जाणतो. मराठी भाषेतील सामाजिक आणि ऐतिहासिक संदर्भ समजून घेऊन एआयने निर्णय घ्यावेत, यावर आमचा भर आहे. त्यासाठी तशी माहिती, संदर्भ इंजिनला पुरवले जातील.

हे बनवताना तुम्हाला कोणत्या अडचणी आल्या? आर्थिक पाठबळ कसं मिळालं?

सर्वात मोठं आव्हान होतं 'नैतिकता' कोडमध्ये बसवणं. गणिती उत्तरं सोपी असतात, पण 'न्याय' किंवा "नैतिकता" हे परिस्थितीनुसार बदलतात. ते अल्गोरिदममध्ये आणणं कठीण होतं. आर्थिक बाबींचं विचाराल, तर माझ्यासाठी पैशांपेक्षा संशोधन महत्त्वाचं होतं. जबाबदार तंत्रज्ञान बनवणं हेच माझं ध्येय असल्याने आर्थिक अडचणी मला कधीच मोठ्या वाटल्या नाहीत.

हेही वाचा - चाहूल नव्या वसाहतवादाची

पण नफ्याला प्राधान्य देणाऱ्या एआय कंपन्या SEDE वापरायला उत्सुक असतील का?

हा प्रश्न फार महत्त्वाचा आहे, आणि उत्तर सरळ “हो” किंवा “नाही” मध्ये देता येणार नाही. पहिल्या टप्प्यावर तर उत्तर 'नाही', असंच आहे. कारण SEDE च्या वापराने निर्णयप्रक्रिया लांबते, समोर प्रश्न उभे राहतात. याउलट नफ्यासाठी काम करणाऱ्या कंपन्यांना वेग, स्केल आणि ऑटोमेशन हवं असतं. पण नैतिक द्वंद्व आलं की ते अधिक खर्चिक, गुंतागुंतीचं होतं. त्यामुळे त्या कंपन्यांना हा अडथळा वाटू शकतो.

पण दीर्घकाळाचा विचार केला तर हे चित्र बदलतं. आज एआयवर खटले वाढत आहेत. एआय पक्षपाती असल्याचे, त्याने भेदभाव केल्याचे आणि गोपनीयतेचं उल्लंघन केल्याचे आरोप एआयवर दिवसागणिक होत असतात. त्यानुसार मग वेळोवेळी त्या एआय इंजिनमध्ये बदल केले जातात. GROKने बनवलेले अश्लील फोटोज हे त्याचंच एक उदाहरण. यात कंपन्यांना अब्जावधींचा तोटा होत असतो. त्यामुळे राष्ट्रीय, आंतरराष्ट्रीय स्तरावर यासाठी नवनवे कठोर नियम-कायदे होत आहेत. वापरकर्त्यांकडून उद्या अशा चाळणीसाठीच्या मागणीचा रेटा वाढला तर तोही कंपन्यांना विचारात घ्यावा लागेल. म्हणजे एका अर्थाने ही वापरकर्त्यांचीही जबाबदारी आहे. असा दीर्घकालीन विचार केला तर SEDE नफा-विरोधी नाहीये तर नफा सुरक्षित करणारी यंत्रणा आहे, असं म्हणावं लागेल.

भविष्यात या प्रकल्पाचा जागतिक स्तरावर कसा वापर होईल?

आमची योजना SEDE ला एक 'नैतिक चाळणी' म्हणून जागतिक स्तरावर नेण्याची आहे. विशेषतः ड्रायव्हरलेस कार आणि वैद्यकीय क्षेत्रात याचा मोठा वापर होऊ शकतो. या संशोधनाचा पेपर आम्ही आंतरराष्ट्रीय परिषदेत (FOS 2026) आधीच मांडला आहे. तंत्रज्ञान माणसावर राज्य करण्यासाठी नाही, तर माणुसकी जपण्यासाठी असावं, हेच आमचं ध्येय आहे.