AI Risks: পারমাণবিক অস্ত্রের চেয়েও বিপজ্জনক হতে পারে কৃত্রিম বুদ্ধিমত্তা, সতর্ক করলেন গুগলের প্রাক্তন সিইও
এআই-এর প্রসারের সমস্যা কি আছে? অবশ্যই আছে।" তিনি ব্যাখ্যা করেন, কিছু প্রমাণ পাওয়া গেছে যে উন্মুক্ত বা সীমিত, যেকোনো ধরনের এআই মডেলের সুরক্ষার বেড়াজাল বা 'গার্ডরেইল' (Guardrails) ভেঙে দিয়ে সেগুলোকে হ্যাক করা যেতে পারে।
Truth of Bengal: কৃত্রিম বুদ্ধিমত্তা বা এআই (AI) প্রযুক্তির দ্রুত উত্থান একদিকে যেমন সম্ভাবনার দরজা খুলে দিচ্ছে, তেমনই এর অন্ধকার দিকটি নিয়েও বাড়ছে উদ্বেগ। গুগলের প্রাক্তন সিইও এরিক শ্মিট (Eric Schmidt) সম্প্রতি সতর্ক করেছেন যে এই এআই মডেলগুলো হ্যাক হওয়ার ঝুঁকিতে রয়েছে। গত সপ্তাহে ‘সিফটেড সামিট’-এ এক বক্তৃতায় তিনি এআই-এর ‘খারাপ দিক’ নিয়ে কথা বলেন এবং জানতে চাওয়া হয়, এআই কি পারমাণবিক অস্ত্রের চেয়েও বেশি বিপজ্জনক হতে পারে? সিএনবিসি-কে দেওয়া তথ্য অনুসারে, শ্মিট বলেন, “এআই-এর প্রসারের সমস্যা কি আছে? অবশ্যই আছে।” তিনি ব্যাখ্যা করেন, কিছু প্রমাণ পাওয়া গেছে যে উন্মুক্ত বা সীমিত, যেকোনো ধরনের এআই মডেলের সুরক্ষার বেড়াজাল বা ‘গার্ডরেইল’ (Guardrails) ভেঙে দিয়ে সেগুলোকে হ্যাক করা যেতে পারে। তিনি বলেন, “প্রশিক্ষণের সময় মডেলগুলো অনেক কিছু শেখে। একটি খারাপ উদাহরণ হল, তারা শিখে নিতে পারে কীভাবে কাউকে হত্যা করতে হয় (AI Risks)।”
Google’s ex-CEO shares dire warning of homicidal AI models https://t.co/W6gwHuLZSd pic.twitter.com/toY6e00nWH
— NY Post Business (@nypostbiz) October 9, 2025
যদিও প্রধান কোম্পানিগুলো বর্তমানে এই মডেলগুলোকে এমন প্রশ্নের উত্তর দেওয়া অসম্ভব করে তুলেছে, তবুও শ্মিট জানান, এই মডেলগুলো ‘রিভার্স-ইঞ্জিনিয়ারিং’ (Reverse-engineered) করা যেতে পারে। অর্থাৎ, এদের মূল কাঠামো ভেঙে অবাঞ্ছিত কাজ করানো সম্ভব। এআই-এর বিপদ নিয়ে উদ্বিগ্ন শুধু শ্মিট নন। ‘এআই-এর গডফাদার’ (Godfather of AI) হিসাবে পরিচিত জিওফ্রে হিন্টনও (Geoffrey Hinton) এই প্রযুক্তি নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কা প্রকাশ করেছেন। হিন্টন মনে করেন, যদি এআই মডেলগুলো নিজস্ব ভাষা তৈরি করতে পারে, তবে প্রযুক্তিটি মানবজাতির নিয়ন্ত্রণের বাইরে চলে যেতে পারে (AI Risks)।
Truth of Bengal fb page: https://www.facebook.com/share/1GbdnH1jqc/
বর্তমানে বেশিরভাগ এআই মডেল ইংরেজিতেই ‘চিন্তা’ করে, যার ফলে ডেভেলপাররা বুঝতে পারেন প্রযুক্তিটি কী ভাবছে। কিন্তু হিন্টনের মতে, এমন একটি সময় আসতে পারে যখন মানুষের পক্ষে এআই-এর পরিকল্পনা বোঝা অসম্ভব হয়ে উঠবে। তিনি বলেন, “যদি তারা একে অপরের সঙ্গে কথা বলার জন্য নিজস্ব অভ্যন্তরীণ ভাষা তৈরি করে, তবে পরিস্থিতি আরও ভীতিকর হবে। তারা নিজস্ব চিন্তার ভাষা তৈরি করলে আমরা জানতেও পারব না তারা কী ভাবছে।” এআই-এর সম্ভাব্য চরম বিপদ নিয়ে গবেষণা পত্রও প্রকাশিত হয়েছে। গত এপ্রিল মাসে গুগল ডিপমাইন্ডের (Google DeepMind) প্রকাশিত একটি গবেষণাপত্রে সতর্ক করা হয়েছিল যে ‘আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স’ (AGI) ২০৩০ সালের প্রথম দিকেই চলে আসতে পারে এবং তা “স্থায়ীভাবে মানবতাকে ধ্বংস করে দিতে পারে।” গবেষণাটিতে জোর দিয়ে বলা হয়, “এজিআই-এর ব্যাপক সম্ভাব্য প্রভাব বিবেচনা করে, আমরা মনে করি এটি গুরুতর ক্ষতির ঝুঁকি তৈরি করতে পারে,” এবং “স্থায়ীভাবে মানবতাকে ধ্বংসকারী” চরম ঝুঁকিগুলো এর স্পষ্ট উদাহরণ (AI Risks)।
