با Pause AI، گروه معترض علیه انقراض انسان آشنا شوید

اولین بار وقتی صحبت می کنیم، جوپ مایندرتسما حال خوبی ندارد. او در حالی که صحبتی را توصیف می کند که در آن به خواهرزاده خود در مورد خطری که هوش مصنوعی می تواند باعث فروپاشی جامعه شود هشدار داد، اشک می ریزد. سپس او دچار حمله پانیک شد. او از طریق زوم از خانه اش در شهر اوترخت هلند می گوید: «من یک روز در میان گریه می کنم. هر بار که با والدین یا دوستانم خداحافظی می کنم، احساس می کنم آخرین بار است.

Meindertsma، 31 ساله و مالک یک شرکت پایگاه داده، چند سالی است که به هوش مصنوعی علاقه مند بوده است. اما زمانی که Open AI آخرین مدل زبان خود را منتشر کرد، او واقعاً نگران تهدیدی بود که این فناوری می‌تواند برای بشریت ایجاد کند. GPT-4، مارس. از آن زمان، او شاهد موفقیت ربات چت ChatGPT بوده است – ابتدا بر اساس GPT-3 و سپس GPT-4 – به دنیا نشان می دهد که هوش مصنوعی چقدر پیشرفت کرده است و شرکت های بزرگ فناوری باید به عقب برسند. و او پیشگامانی مانند جفری هینتون، به اصطلاح پدرخوانده هوش مصنوعی را دیده است که در مورد خطرات ذاتی سیستم هایی که به ایجاد آنها کمک کرده اند هشدار می دهند. Meindertsma می‌گوید: «قابلیت‌های هوش مصنوعی بسیار سریع‌تر از آنچه که هر کسی پیش‌بینی می‌کرد، در حال تکامل است. ما در خطر فروپاشی اجتماعی هستیم. ما در خطر انقراض انسان هستیم.»

یک ماه قبل از گفتگوی ما، مایندرتسما دیگر سر کار نمی رود. او چنان مجذوب این ایده بود که هوش مصنوعی تمدن بشری را نابود می کند که فکر کردن به چیز دیگری برایش سخت بود. او احساس می کرد که باید کاری کند تا از فاجعه جلوگیری کند. مدت کوتاهی پس از آن، او Pause AI را تأسیس کرد، یک گروه معترض مردمی که همانطور که از نامش پیداست، از توقف توسعه هوش مصنوعی حمایت می کند. و از آن زمان او گروه کوچکی از هواداران را جمع آوری کرد که در بروکسل، لندن، سانفرانسیسکو و ملبورن تظاهرات کردند. این تظاهرات کوچک بودند – هر کدام کمتر از ده نفر – اما مایندرتسما دوستانی در مکان های بلند پیدا کرده است. او می گوید که قبلاً برای صحبت با مقامات پارلمان هلند و کمیسیون اروپا دعوت شده است.

این ایده که هوش مصنوعی می تواند بشریت را از بین ببرد، افراطی به نظر می رسد. اما این ایده ای است که هم در بخش فناوری و هم در سیاست جریان اصلی در حال افزایش است. هینتون در ماه می از سمت خود در گوگل استعفا داد و یک دور جهانی از مصاحبه ها را راه اندازی کرد که در آن او این شبح را مطرح کرد که با پیشرفت فناوری، انسان ها دیگر قادر به کنترل هوش مصنوعی نیستند. در همان ماه، رهبران صنعت – از جمله مدیران عامل آزمایشگاه‌های هوش مصنوعی Google DeepMind، OpenAI و Anthropic – نامه‌ای را امضا کردند که در آن به “خطر انقراض” اذعان کردند و ریشی سوناک، نخست‌وزیر بریتانیا، اولین کسی بود که علناً اعتراف کرد که او نیز معتقد است که هوش مصنوعی به وجود آمده است. یک خطر وجودی برای بشریت

مایندرتسما و پیروانش نگاهی اجمالی به چگونگی نفوذ این هشدارها در جامعه، ایجاد پدیده جدیدی از ترس هوش مصنوعی ارائه می‌کنند و به نسل جوان – که بسیاری از آنها قبلاً عمیقاً نگران تغییرات آب و هوا هستند – دلیل جدیدی برای نگرانی درباره آینده می‌دهند. آ نظرسنجی موسسه نظرسنجی YouGov دریافت که نسبت افرادی که می ترسند هوش مصنوعی منجر به آخرالزمان شود در سال گذشته به شدت افزایش یافته است. هینتون انکار می کند که دوست دارد توسعه هوش مصنوعی به طور موقت یا نامحدود متوقف شود. اما اظهارات علنی او در مورد خطراتی که هوش مصنوعی برای بشریت ایجاد می کند باعث شده گروهی از جوانان احساس کنند که چاره دیگری ندارند.

به افراد مختلف، “ریسک وجودی” به معنای چیزهای مختلف است. مایندرتسما می گوید: «سناریوی اصلی که من شخصاً نگران آن هستم، فروپاشی اجتماعی به دلیل هک کردن در مقیاس بزرگ است. خاموش”. کل اینترنت.» کارشناسان این سناریو را بسیار بعید می دانند. اما Meindertsma همچنان نگران انعطاف پذیری خدمات بانکی و توزیع مواد غذایی خود است. مردم نمی توانند در یک شهر غذا پیدا کنند. مردم می جنگند.» من فکر می کنم میلیاردها نفر خواهند مرد.»