هوش مصنوعی ز یر سایه همیشه و همواره انسان

آمازون به تازگی پذیرفته پیمانکارانی استخدام کرده تا برخی از اطلاعات ضبط شده توسط هوش مصنوعی شرکت خود الکسا Alexa  را بازبینی کنند.

در میان هزاران هزار کلمه‌ای که متون مربوط به سیاست‌های حفظ حریم خصوصی غول‌های فناوری را تشکیل می‌دهند، کلمه “انسان” به ندرت به چشم می‎خورد.

در صفحه سیاست‎های حفظ حریم خصوصی الکسا، نرم افزار دستیار صوتی شرکت آمازون هیچ خبری از این کلمه نیست. هوش مصنوعی “سیری” Siri اپل و دستیار صوتی گوگل هم شرایطی مشابه دارند.

فیسبوک در سیاست‎های خود برای حفظ حریم خصوصی تنها یک بار از کلمه انسان استفاده کرده تا به کاربران اطلاع دهد به منظور اطمینان از انسان بودن آن‎ها داده‎های مربوط به دستگاه‎شان را ذخیره خواهد کرد.

در این میان فقط مایکروسافت به نکته‎ای که باید در سایر سیاست‎های حفظ حریم خصوصی هم کمابیش دیده شود، اشاره کرده است: ” در روند پردازش داده‎های خصوصی … ما هم از روش‌های خودکار بهره می‌گیریم و هم روش‎های دستی (توسط انسان). “

من به این دلیل به چنین نکته‎ای اشاره می‎کنم که مسأله نیروی کار انسانی این اواخر در”سیلیکون ولی” Silicon Valley  به موضوعی حساس تبدیل شده است؛ جنجالی تازه که فقط خود شرکت‎ها در آن مقصر هستند.

در ابتدا، خبر استفاده آمازون از پیمانکارها برای گوش دادن به کلیپ‎هایی که الکسا ضبط کرده، منتشر شد. بعد معلوم شد گوگل و اپل هم کاری بسیار مشابه این انجام می‌دادند. هر سه شرکت در واکنش به تبلیغات منفی گفتند این روند را متوقف می‎کنند.

چندی پیش هم بلومبرگ Bloomberg گزارش داد که فیسبوک نیروی انسانی استخدام کرده تا به صداهای ضبط شده توسط پیام‎رسانش، گوش بدهند. فیسبوک البته تأکید کرد برای این کار رضایت‎های لازم را گرفته اما در گزارش‎های بعدی مشخص شد این ادعا صحت چندانی ندارد و در واقع اصلا دقیق نیست چون این شرکت به کاربرانش در این باره حتی یک کلمه هم حرف نزده بود.

ماجراها یکی بعد از دیگری اتفاق افتادند و حالا همه سیستم‎های “خودکار” و آن‎هایی که با صدا سر و کار دارند به حق در معرض نگاه‎های موشکافانه قرار گرفته‎اند.

آیا پیمانکاران مایکروسافت گاهی اوقات به صداهایی که توسط اسکایپ Skype ضبط می‎شوند، گوش می‎دهند؟ بله. آیا آن‎ها صدای گیمرها وقتی از طریق ایکس‎باکس Xbox با هم حرف می‎زنند را شنود می‎کنند؟ البته.

گوگل هم پیمانکارانی را به خدمت گرفته تا به اطلاعاتی که از طریق دستیار صوتی خود، “گوگل اسیستنت ” Google Assistant جمع‎آوری کرده گوش دهند.

از آنجایی که خبرنگاران به دنبال راه‎حل‎های ساده هستند، به سراغ یک برنامه “خودکار” رفتم که بیشتر اوقات از آن استفاده می‎کنم؛ برنامه “اکسپنسیفای” (Expensify)، نرم‎افزار ثبت هزینه‎ها که توانایی اسکن هوشمند رسیدها را دارد. آیا نیروی انسانی در عملکرد این نرم‎افزار نقش دارد؟ این طور که پیداست، بله.

شرکت سازنده این نرم‎افزار به من گفت: “اسکن هوشمند یک سیستم چندلایه و پیچیده است که برای استخراج اطلاعات از رسیدها، از رویکردی چندگانه استفاده می‎کند. به عنوان گزینه ناگزیر نهایی، رسیدها را برای پیمانکاران خود می‎فرستیم. وقتی نمی‎توانیم به اطلاعات مورد نیازمان از یک رسید دست بیابیم، یکی از پیمانکاران ما آن را بازبینی می‎کند تا اطلاعات گم شده را بیابد.”

در سیاست حفظ حریم خصوصی نرم‎افزار اکسپنسیفای اما هیچ حرفی در مورد استفاده از نیروی انسانی زده نشده است.

‘می‎توانستیم یک ویرگول اضافه کنیم’

برای همه این‎ها توجیهی منطقی وجود دارد، البته اگر غول‎های فناوری خودپسندی و وسواس‎شان نسبت به پنهان‌کاری را کنار بگذارند و آن را به زبان بیاورند. واقعیت این است که بیشتر این محصولات بدون نیروی انسانی، درست کار نمی‎کنند.

 اکسپنسیفای اعتراف کرد بدون بازبینی نیروی انسانی، میزان دقت این نرم‎افزار فقط بین ۸۰ تا ۸۵ درصد خواهد بود. به این ترتیب کاربر باید همه رسیدهایش را دوباره بررسی کند تا از نبود خطا مطمئن شود و این یعنی استفاده از این نرم‎افزار به طور کل فایده‎ای ندارد. بنابراین در مجموع ظاهرا اشکالی ندارد اگر هرازگاهی پای نیروی انسانی به این نرم‎افزار باز شود. اما این که در هیچ کجای وبسایت آن‎ها اشاره‎ای به این موضوع نشده، کار چندان درستی به نظر نمی‎آید.

آمازون، گوگل، اپل، فیسبوک و مایکروسافت همگی با چالشی مشابه روبرو هستند. این شرکت‎ها فعالیت‎های شما را با هدف جاسوسی ضبط نمی‎کنند بلکه می‎خواهند بفهمند فناوری‎هایی که تازه عرضه کرده‎اند چه زمانی دچار اشکال می‎شود و دلیلش چیست.

(ارائه چنین اظهار نظر قطعی و یقینی با توجه به دسترسی اندک خبرنگار لی به فعالیت های فوق محرمانه شرکت های فناوری و همکاری علنی آنان با سیا و پنتاگون و سایر مراکز اطلاعاتی  کاملا غیرمنطقی و دور از باور است)

اما چیزی که بیشتر از همه من را ناامید می‎کند این است که فکر می‎کنم بیشتر مردم مشکلی با این موضوع ندارند؛ یک نمونه از آن‎ها هم خود من هستم. من معتقدم چون این محصولات بی عیب و نقص نیستند، شرکت‎ها باید روی بهتر کردن آن‎ها کار کنند و خیالم تقریبا راحت است که هنوز هم می‎شود تا حدود زیادی به انسان‎ها اطمینان کرد.

اما از شرکت‎های فناوری توقع داریم در رابطه با این موضوع صادق باشند که البته بیشتر آن‎ها در این باره کوتاهی کرده‎اند. اوایل امسال با رئیس پروژه الکسای آمازون گفت‎و‎گو کردم و از او پرسیدم آیا آمازون می‎توانسته در سیاست‎های حفظ حریم خصوصی خود با شفافیت بیشتری در رابطه با نقش هر چند کوچک نیروی انسانی در سیستم الکسا حرف بزند.

او پاسخ داد: ” فکر می‎کنم می‎توانستیم یک ویرگول بگذاریم و بیشتر شفاف‎سازی کنیم.”

شرکت‎های فناوری باید خیلی زود این را بفهمند که خریداران محصولات‎‎ ‎آن‎ها، استفاده از نیروی انسانی را با میل و رغبت بیشتری می‎بخشند تا سوء‎استفاده از اعتمادشان را.

اما از سوی دیگر گفتن حقیقت به معنای پذیرفتن نقص، ضعف یا ناکارآمدی است و چنین چیزی در دنیای تکنولوژی هیچ جایی ندارد.