سه چیز که نشان می‎دهد که گوگل در حال پیوستن به طرف تاریکی است

شر نباش!

از سال ۲۰۰۰، این عبارت به عنوان یک شعار برای گوگل بوده است. این شعار حتی اولین جمله در نظام نامه‌ی هدایتی گوگل بوده که بر آن تاکید شده است. در روز جمعه وب سایت Gizmodo  گزارش داد که، تقریبا در پایان آوریل یا آغاز ماه مه، گوگل تقریبا این شعار را از رفتار و قوانین خود حذف کرده است.

این فقدان ممکن است به نظر کوچک برسد، اما همچنین می تواند به عنوان آخرین نشانه‌ای باشد که ممکن است گوگل در حال تغییر اولویت‌های اخلاقی خود است. و با توجه به این که شرکت در حال حاضر راه‌های بیشتری برای پاسخ به سؤالات مهم (یا سلیقه‌ای) ما ارائه می‌دهد، این تغییر می‌تواند مشکلاتی را برای آینده بشریت بوجود آورد.

در حال حاضر گوگل در موقعیت نفوذ در زندگی ما قرار دارد، آیا این شرکت از قدرت خود در درجه اول برای خیر استفاده می‌کند یا شر ؟ در اینجا به سه ​​نشانه‌ی گرابش به سوی دومی، اشاره شده است.

پروژه  Maven

البته خوب و بد یک موضوع ذهنی است، و “شر”  ممکن است منطقه اخلاق خاکستری دیگری باشد. با این حال، کمک به هواپیماهای بدون سرنشین برای کشتن مردم در طیف تیره تر اخلاقی به نظر  می‌رسد، و این یکی از پروژه های اخیر گوگل است.

در ماه مارس خبری منتشر شد که گوگل با پروژه  Maven به وزارت دفاع ایالات متحده  کمک کرده است، ابتکار عملی برای ساخت هواپیماهای بدون سرنشین با هوش مصنوعی برای استفاده در جنگ. هزاران نفر از کارکنان گوگل با مشارکت در دادخواست، با این حرکت مخالفت کردند. هفته گذشته حتی برخی برای نشان دادن اعتراض استعفا دادند.

با این حال، گوگل با پروژه Maven پیش می‌رود و به گفته کارمندان Engadget، این شرکت بیشتر علاقه‌مند به عملیات نظامی بوده و کمتر علاقه مند به آنچه کارکنان آن فکر می کنند، است.

هوش مصنوعی فریبنده

دروغ گفتن یکی دیگر از منطقه‌های خاکستری اخلاقی است، و گوگل به نظر می‌رسد راحت‌تر به سمت آن حرکت می‌کند. کارمندان گوگل به Engadget گفتند که گوگل به همان شیوه‌ای که با آن‌ها شفاف نبوده، در ارتباط با عموم هم شفاف نیست.

در اوایل ماه جاری این شرکت ویژگی جدید Duplex Google Assistant خود را به نمایش گذاشت- یک هوش مصنوعی که می‌تواند تماس‌های خسته‌کننده را از طرف کاربر انجام دهد. از آن زمان ادعاهایی مبنی بر اینکه نسخه آزمایشی ممکن است جعلی باشد، شروع شده است، اما حتی اگر جعلی نباشد، بعضی می‌گویند این تکنولوژی فریبکار است، زیرا هوش مصنوعی در زمان اجرای نسخه ی نمایشی خود را بعنوان غیر انسان معرفی نکرده است.

توماس کینگ، پژوهشگر آزمایشگاه اخلاق دیجیتال انجمن اینترنت آکسفورد، به TechCrunch با اشاره به نسخه‌ی نمایشی گفت:

آزمایشات گوگل به نظر می‌رسد که برای فریب طراحی شده‌اند.حتی اگر  قصد فریب دادن نداشته باشند، می توانید بگویید که برای اطمینان از فریب ندادن آن ، غفلت کرده است.

یوسی ماتیاس، معاون رئیس مهندسی گوگل، پس از اجرا نسخه ی نمایشی به CNET اعلام کرد که پس از عرضه‌ی نسخه‌ی اصلی ، هوش مصنوعی “به احتمال زیاد” به مردم اعلام می‌کند که آن‌ها با یک هوش مصنوعی در تعامل هستند. البته ما زمانی این را باور خواهیم کرد که آن را ببینیم.

دفترکل خودخواه

هفته گذشته وب سایت Verge یک ویدیو را که در داخل شرکت گوگل در سال ۲۰۱۶ منتشر شده بود، به دست آورد. عنوان ویدئو « دفترکل خودخواه» است که تصویری از آینده‌ای را نشان می‌دهد که در آن گوگل فقط اطلاعات را در مورد کاربران جمع آوری نمی‌کند بلکه با استفاده از آن اطلاعات، در نهایت رفتار مردم را کنترل می‌کند.

هنگامی که وب سایت Verge نظر گوگل را در این مورد پرسید، سخنگوی این شرکت ترسناک بودن این مسئله را تکذیب نکرد، اما ادعا کرد که همه چیز صرفا نظری بوده است:

ما درک می کنیم که این تفکر ناراحت کننده است – اینطور طراحی شده است. این یک آزمایش فکری بود که تیم طراحی آن رااز سال‌های قبل با استفاده از تکنیک شناخته شده به عنوان “طراحی احتمالی” به منظور کشف ایده‌ها و مفاهیم ناراحت کننده و به منظور تحریک بحث و مناظره، بوجود آوردند. این شیوه در ارتباط با هیچ محصول فعلی یا آینده ما نیست.

با این حال، سخت نیست ببینیم که چگونه گوگل می‌تواند به طور فنی خود این دفترکل را ایجاد کند. علاوه بر این، ویدئو یادآور می‌شود که هدف این است که اقدامات افراد را با ارزش های گوگل، مانند پایداری محیطی، هماهنگ کند. با این حال، اگر ارزش‌های گوگل تغییر می‌کرد، پس مسیر فکری افراد هم براساس راهنمایی موجود در دفتر کل خودخواه تغییر خواهد کرد.

البته، گوگل کار‌هایی برای نشان دادن طرف خوبش هم می‌کند: این شرکت پول و منابعش را برای پروژه‌هایی به منظور کمک به محیط زیست، ارائه فرصت‌های آموزشی برای کودکان و حمایت از جوامع محروم اهدا می‌کند.

با این حال، گوگل چنان قدرتمند است که اگر تصمیم بگیرد که دیگر از «شر نباش» پیروی کند، چه کسی می‌داند که چقدر خرابی به بار می‌آورد؟ در حال حاضر، بگذارید فقط امیدوار باشیم که این شرکت همچنان رشد کند و وجدان آن کوچک‌تر نشود.