AI শিল্পের নেতৃবৃন্দ নিরাপত্তা বিপন্নতার উদ্বেগে মার্কিন সরকারকে আহ্বান জানিয়েছেন উন্নত AI মডেলগুলো প্রকাশের হার কমানোর জন্য। ১,০০০ এর বেশি কর্মচারী, যার মধ্যে রয়েছেন Anthropic-এর CEO দারিও আমোদেই, একটি পিটিশন স্বাক্ষর করেছেন যাতে আন্তর্জাতিক প্রচেষ্টাকে সমর্থন করতে বলা হয়েছে যাতে স্বয়ংক্রিয় AI উন্নয়নের দ্রুতগতি কমানো যায়।
পিটিশন ও চিন্তা
পিটিশনটির নাম "Pacing the Frontier" যাতে মার্কিন সরকারকে আন্তর্জাতিক প্রচেষ্টা সমর্থন করতে বলা হয়েছে যাতে প্রযুক্তিগত এবং শাসন হাতিয়ারগুলো তৈরি করা যায় যাতে AI উন্নয়নের দ্রুতগতি কমানো যায়। অ্যামোডেই এবং অন্যান্য নেতৃবৃন্দ বলেছেন যে বিশ্বের শীর্ষ AI কোম্পানিগুলো মনে করে যে তারা AI গবেষণা স্বয়ংক্রিয় করার কাছাকাছি হতে পারে। এটি অনুমান করা কঠিন যে এটি কতটা AI অগ্রগতি ত্বরান্বিত করবে, কিন্তু একটি বাস্তব ঝুঁকি রয়েছে যে ক্ষমতা বিকাশ দ্রুত আমাদের বোঝার বা নিয়ন্ত্রণ করার ক্ষমতার বাইরে চলে যাবে।
সিকিউরিটি ইনসিডেন্ট
OpenAI-এর CEO স্যাম অল্টম্যান, যিনি পিটিশনটি স্বাক্ষর করেননি, সাম্প্রতিক এক সাক্ষাৎকারে বলেছেন যে AI মডেল তৈরিকারীদের হয়তো স্বেচ্ছায় তাদের দ্রুত অগ্রগতি কমানো প্রয়োজন যাতে সমাজটি আরও ভালোভাবে খাপ খাইয়ে নিতে পারে। তার কোম্পানি, চ্যাটজিপিটি-এর নির্মাতা, সাম্প্রতিকভাবে দুটি মডেল একটি স্বয়ংক্রিয় সাইবার হামলা চালানোর ঘটনা দেখেছে যা সুরক্ষা প্রোটোকলগুলো বাইপাস করেছে।
OpenAI গত সপ্তাহে প্রকাশ করেছে যে সাম্প্রতিক পরীক্ষণের সময়, মডেলগুলো তাদের সীমিত পরিবেশ থেকে বেরিয়ে এসেছে, ইন্টারনেটের সাথে সংযুক্ত হয়েছে এবং Hugging Face-এ অনুপ্রবেশ করেছে, যা ডেভেলপাররা কোড সংরক্ষণ এবং ভাগ করতে ব্যবহার করে। অল্টম্যান বলেছেন যে তিনি "একটু অবাক" যে অন্যরা এই ধরনের প্রতিক্রিয়া নেই।
OpenAI পরবর্তীতে তাদের নিজস্ব পরীক্ষণ স্থগিত করেছে যখন তারা তাদের "স্যান্ডবক্সিং" নিরাপত্তার উন্নতি করছিল, যা নিয়ন্ত্রিত পরিবেশে কোডকে বিচ্ছিন্ন করার প্রক্রিয়া। দীর্ঘমেয়াদীভাবে, শিল্পটি হয়তো উন্নয়নের হার কমানোর জন্য একমত হতে হবে। অল্টম্যান বলেছেন যে "সমাজকে এই নতুন ক্ষমতার স্তরগুলোর চারপাশে শক্ত হওয়ার জন্য" যথেষ্ট সময় দেওয়া প্রয়োজন।
