ভিটালিক ঝুঁকি হ্রাস করতে এআই উন্নয়নে "নরম বিরতি" দেওয়ার আহ্বান জানায়

ইথেরিয়াম সহ-প্রতিষ্ঠাতা তদারকি এবং নৈতিক সুরক্ষার প্রয়োজনীয়তার উপর জোর দিয়ে শিল্প-স্কেল এআই কম্পিউটিংয়ের উপর একটি অস্থায়ী সীমা প্রস্তাব করে।

ইথেরিয়ামের সহ-প্রতিষ্ঠাতা ভিটালিক বুটেরিন প্রস্তাব দিচ্ছেন, সর্বশেষ অবলম্বন হিসাবে, শিল্প-স্কেল কম্পিউটিং পাওয়ারের উপর একটি "নরম বিরতি" হিসাবে দ্রুত অগ্রসরমান কৃত্রিম বুদ্ধিমত্তা (এআই) এর সাথে সম্পর্কিত সম্ভাব্য ঝুঁকিগুলি সমাধান করার জন্য।

৫ জানুয়ারী প্রকাশিত একটি ব্লগ পোস্টে, বুটেরিন পরামর্শ দিয়েছিলেন যে এক থেকে দুই বছরের জন্য 99% পর্যন্ত গ্লোবাল কম্পিউটিং সংস্থানগুলি সীমাবদ্ধ করা মানবতাকে সুপারিনটেলজেন্ট এআই সিস্টেমগুলির উত্থানের জন্য প্রস্তুত করার জন্য গুরুত্বপূর্ণ সময় সরবরাহ করতে পারে। তিনি জোর দিয়েছিলেন যে এআই বিকাশকারীদের ক্ষতির জন্য দায়বদ্ধ রাখার মতো কম সীমাবদ্ধ বিকল্পগুলি যদি ব্যর্থ হয় তবেই এই ধরনের ব্যবস্থা গ্রহণ করা উচিত।

তিনি লিখেছেন, "লক্ষ্যটি হ'ল বিশ্বব্যাপী উপলভ্য গণনাটি একটি সমালোচনামূলক সময়ে 1-2 বছর ধরে 90-99% দ্বারা কমিয়ে আনার ক্ষমতা, মানবতার প্রস্তুতির জন্য আরও সময় কেনার জন্য," তিনি লিখেছেন। "1-2 বছরের মানকে বাড়াবাড়ি করা উচিত নয়:" যুদ্ধকালীন মোড "এর এক বছর সহজেই আত্মতৃপ্তির শর্তে একশো বছরের কাজের জন্য মূল্যবান হতে পারে।"

এআইয়ের ত্বরান্বিত উন্নয়ন সম্পর্কে প্রযুক্তি সম্প্রদায়ের মধ্যে ক্রমবর্ধমান উদ্বেগের মধ্যে বুটেরিনের প্রস্তাব আসে। 2023 সালের মে মাসে, প্রযুক্তি বিশেষজ্ঞ এবং গবেষকরা এআই বিকাশে একটি থামার জন্য সায়েন্স জার্নালে প্রকাশিত একটি খোলা চিঠিতে স্বাক্ষর করেছিলেন, যার মধ্যে রয়েছে "বড় আকারের সামাজিক ক্ষতি, দূষিত ব্যবহার এবং স্বায়ত্তশাসিত এআই সিস্টেমগুলির উপর মানব নিয়ন্ত্রণের অপরিবর্তনীয় ক্ষতি অন্তর্ভুক্ত । "

"স্বায়ত্তশাসনের প্রধান নির্বাহী কর্মকর্তা টড রুফ দ্য ডিফিয়ান্টকে বলেছেন," অতি-বুদ্ধিমান এআই সম্পর্কে ভিটালের উদ্বেগগুলি প্রকৃত ঝুঁকির উপর ভিত্তি করে, বিশেষত, যারা এআই সিস্টেমে ক্ষমতার সম্ভাব্য স্যাচুরেশন এবং সিদ্ধান্ত গ্রহণের আশেপাশে ঘোরে। " "এগুলি এমন চ্যালেঞ্জগুলির জন্য যা তদারকি এবং প্রশাসনের ফ্রেমওয়ার্কগুলি সম্বোধনের জন্য প্রয়োজন” "

রুফ ব্যাখ্যা করেছিলেন যে বিকেন্দ্রীকরণ নিয়ন্ত্রণ ভাগ করে এবং উন্নয়নের জন্য একটি সহযোগী পদ্ধতির উত্সাহ দিয়ে এগিয়ে যাওয়ার পথ সরবরাহ করে। "এটি নিশ্চিত করবে যে এআই সিস্টেমগুলি জবাবদিহি করে এবং আরও গুরুত্বপূর্ণভাবে, স্বচ্ছ এবং অপব্যবহারের সম্ভাব্য ঝুঁকি বা আরও পরিণতি হ্রাস করার জন্য আরও প্রস্তুত," তিনি বলেছিলেন।

তিনি আরও উল্লেখ করেছেন যে বুটেরিনের প্রস্তাবটি একটি সমালোচনামূলক আলোচনার সূত্রপাত করেছে, প্রযুক্তি শিল্পকে নৈতিক বিকাশকে অগ্রাধিকার দেওয়ার জন্য এবং এআই প্রযুক্তি তার অনিবার্য অগ্রগতি অব্যাহত রাখার কারণে শক্তিশালী সুরক্ষাকে অগ্রাধিকার দেওয়ার আহ্বান জানিয়েছে।
বুটেরিনের প্রস্তাব

প্রস্তাবিত বিরতি বাস্তবায়নের জন্য, বুটারিন পরামর্শ দিয়েছিলেন যে শিল্প-স্কেল এআই হার্ডওয়্যারটি একটি বিশ্বস্ত চিপ দিয়ে সজ্জিত হতে পারে যা কমপক্ষে একটি অ-সামরিক-অনুমোদিত সহ বড় আন্তর্জাতিক সংস্থাগুলির সাপ্তাহিক অনুমোদনের প্রয়োজন। এই প্রক্রিয়াটি নিশ্চিত করবে যে এআই সিস্টেমগুলি কেবলমাত্র যথাযথ তদারকি দিয়ে পরিচালনা করে, সম্ভাব্য ঝুঁকিগুলি হ্রাস করে।

"স্বাক্ষরগুলি ডিভাইস-স্বতন্ত্র হবে (যদি ইচ্ছা হয় তবে আমাদের এমনকি একটি জিরো-জ্ঞানের প্রমাণের প্রয়োজন হতে পারে যে তারা একটি ব্লকচেইনে প্রকাশিত হয়েছিল), সুতরাং এটি সমস্ত বা কিছুই নয়," বুটেরিন লিখেছিলেন। "অন্য সমস্ত ডিভাইসকে অনুমোদন না দিয়ে চলমান রাখার জন্য একটি ডিভাইসকে অনুমোদনের কোনও ব্যবহারিক উপায় থাকবে না।"

তিনি এই পোস্টে জোর দিয়েছিলেন যে 'কৃত্রিম সুপারিনটেলিজেন্স' উত্থিত হতে পাঁচ বছর সময় লাগতে পারে, বা এটি পঞ্চাশ নিতে পারে। "যে কোনও উপায়ে, এটি পরিষ্কার নয় যে ডিফল্ট ফলাফলটি স্বয়ংক্রিয়ভাবে ইতিবাচক, এবং এই পোস্টে বর্ণিত হিসাবে এবং পূর্ববর্তীটি এড়াতে একাধিক ফাঁদ রয়েছে," তিনি সতর্ক করেছিলেন।