مجوز دولت آمریکا برای صادرات چیپهای پیشرفته هوش مصنوعی به امارات
دولت آمریکا جواز صادرات چیپهای پیشرفته هوش مصنوعی را به تاسیسات تحت مدیریت مایکروسافت در…
۱۸ آذر ۱۴۰۳
۲۳ خرداد ۱۴۰۳
زمان مطالعه : ۸ دقیقه
اپل روز دوشنبه در کنفرانس توسعه دهندگان خود با ورود به صنعت هوش مصنوعی، این فناوری را به انواع محصولات شرکت اضافه کرد. خدمت هوش مصنوعی این شرکت که Apple Intelligence نام دارد، مجموعهای از توانمندیهای هوش مصنوعی را به شکلی شخصیسازی شده، و به گفته شرکت با تضمین امنیت دادههای حساس، در اختیار کاربران میگذارد. این تحولی مهم در رویکرد اپل نسبت به دادههای خصوصی است، اما کوپرتینوییها میگویند برای حفظ حریم خصوصی در عصر هوش مصنوعی، راهکار جدیدی برای پردازش دادههای در ابر ابداع کردهاند.
به گزارش پیوست به نقل از MIT Technology Review، اپل میگوید این سیستم پردازش داخل دستگاه را اولویت خود میداند. اگر هم نیاز به ارتباط با ابر باشد، دادهها به صورت رمزنگاری شده در اختیار ابر قرار میگیرند و سپس حذف میشوند. شرکت این فرایند را رایانش ابر خصوصی (Private Cloud Compute) نامگذاری کرده و پژوهشگران مستقل میتوانند امنیت آن را تایید کنند.
چنین رویکردی با دیدگاه الفابت، آمازون یا متا و جمعآوری بیشمار داده شخصی کاربران، در تضاد است. به گفته اپل دادههای شخصی کاربران تنها برای انجام همان وظیفه در اختیار ابر قرار می گیرند و ذخیره نمیشوند. پس از تکمیل درخواست کاربر، شرکت حتی برای رفع مشکل یا کنترل کیفی نیز به این دادهها دسترسی ندارد.
به عبارت ساده اپل میگوید شما میتوانید برای تجزیهتحلیل دادههای بسیار حساس (از جمله تصاویر، پیامها و ایمیلهای خصوصی) از این قابلیت استفاده کنید و خدمات خودکار این شرکت بدون ذخیره آنلاین دادهها و خطری برای آنها، ارائه میشوند.
اپل چند نمونه از عملکرد این سیستم در iOS جدید را برای کاربران به نمایش گذاشت. برای مثال شما به جای اینکه پیامها را برای پیدا کردن پادکستی که دوستتان برای شما ارسال کرده زیر و رو کنید، میتوانید از سیری بخواهید آن را پیدا کرده و برای شما پخش کند. کریگ فدریگی، نایبرئیس بخش مهندسی نرمافزار اپل، به حالت دیگری نیز اشاره کرد: ایمیلی میگوید جلسه او عقب افتاده در حالی که دخترش نیز همان شب اجرا دارد. گوشی او میتواند PDF حاوی اطلاعات این اجرا را پیدا، ترافیک را پیشبینی و بگوید آیا میتوانید به موقع حضور به آن برسید. درنتیجه کارایی اپلیکیشنهای اپل به شکل چشمگیری افزایش مییابد و توسعهدهندگان نیز می توانند از طریق رابط برنامهنویسی از توانمندیهای هوش مصنوعی در اپلیکیشنهای خود استفاده کنند.
از آنجایی که اپل بیشتر سود خود را به جای تبلیغات از سختافزار و خدمات تامین می کند، برخلاف دیگر شرکتها انگیزه کمتری برای جمعآوری دادههای حساس کاربران دارد و به همین دلیل آیفون را به عنوان خصوصیترین دستگاه معرفی میکند.
با این حال اپل در گذشته مشکلاتی را در زمینه حریم خصوصی تجربه کرده است. مشکلات امنیتی این شرکت در سال ۲۰۱۴ باعث شد تا تصاویر خصوصی کاربران از iCloud درز کند. در سال ۲۰۱۹ نیز مشخص شد که پیمانکارهایی برای کنترل کیفیت به فایلهای صوتی خصوصی از سیری گوش میکنند. بحث درمورد اپل و درخواست نیروهای امنیتی برای دادههای کاربران نیز ادامه دارد.
اپل میگوید اجتناب از رایانش ابری بهترین دفاع در جلوگیری از نقض حریم خصوصی است. فدریگی میگوید: «رکن اساسی این سیستم خصوصی هوش مصنوعی، رایانش داخل دستگاه است» که یعنی بسیاری از مدلهای هوش مصنوعی در داخل آیفون و مک اجرا میشوند و نیازی به ابر ندارند. به گفته او: «[این سیستم] بدون جمعآوری دادههای شخصی شما از دادههای شخصی شما مطلع است.»
اما این کار از لحاظ فنی چند مشکل دارد. با گذشت دو سال از انفجار هوش مصنوعی، حتی سادهترین کارها هم نیازمند توان رایانشی بالایی هستند. انجام این کار با چیپهای گوشی و لپتاپ دشوار است و به همین دلیل تنها کوچکترین مدلهای هوش مصنوعی گوگل را میتوان در داخل گوشیهای این شرکت اجرا کرد و بقیه کارها برعهده ابر است. اپل میگوید به لطف سالها تحقیقات در حوزه طراحی چیپ، که به عرضه چیپ اختصاصی M1 در سال ۲۰۲۰ منجر شد، میتواند محاسبات هوش مصنوعی را در داخل دستگاه انجام دهد.
اما حتی پیشرفتهترین چیپهای اپل هم نمیتوانند همه وظایفی که شرکت وعده داده را برعهده بگیرند. اگر سوال پیچیدهای از سیری بپرسید، سیری مجبور است درخواست و دادههای شما را در اختیار مدلهایی در سرورهای اپل بگذارد. متخصصان امنیتی میگویند این مرحله نقاط ضعف متعددی را پدید میآورد و شاید اطلاعات شما را در دسترسی تبهکاران قرار دهد و در بهترین حالت شرکت اپل به آنها دسترسی دارد.
آلبرت فاکس کاهن، مدیر اجرایی پروژه بازبینی فناوری نظارتی (Surveillance Technology Oversight Project) و از فعالان موسسه قانون اطلاعات در مدرسه حقوق دانشگاه نیویورک، میگوید: «من همیشه به مردم هشدار میدهم که وقتی دادههای شما از دستگاه خارج شوند، بسیار آسیبپذیرتر میشوند.»
اپل مدعی است با سیستم رایانش ابر خصوصی از این خطر جلوگیری میکند. متخصصان امنیتی اپل با اشاره به اینکه دادههای شخصی «در دسترس هیچ کسی به جز کاربر قرار نمیگیرند-حتی خود اپل» در بیانیهای گفتند: « رایانش ابر خصوصی برای اولین بار، سطح ممتاز امنیت و حریم خصوصی دستگاههای اپل را به ابر میآورد.» اما این سیستم چطور کار میکند؟
اپل در گذشته نیز از کاربران خواسته تا برای حفظ امنیت دادههای iCloud از قابلیت رمزنگاری سرتاسری استفاده کنند. با این حال برخلاف اپلیکیشنهای پیامرسانی مثل واتساپ که برای انتقال پیام شما نیاز به دسترسی به محتوای پیامها ندارند، مدلهای هوش مصنوعی اپل باید برای ارائه پاسخ به محتوای دادهها دسترسی پیدا کنند. فرایند حریم خصوصی اپل در همین مرحله وارد عمل میشود. اپل میگوید اول اینکه دادهها تنها برای همان درخواست خاص استفاده میشوند. دوم اینکه، پژوهشگران مستقل میتوانند صحت این فرایند را بررسی کنند.
بدون شک این سیستم از ساختاربندی پیچیدهای استفاده میکند اما میتوان آن را یک پروتکل رمزنگاری دانست. اگر گوشی شما تشخیص دهد که به کمک یک مدل هوش مصنوعی بزرگتر نیاز دارد، درخواستی حاوی پرامپت و مدل مورد نظر تهیه کرده و سپس آن درخواست را قفل میکند. تنها مدل هوش منصوعی هدف میتواند با کلید مورد نیاز به این درخواست دسترسی پیدا کند.
سخنگوی اپل در پاسخ به سوال مجله MIT Technology Review که آیا کاربران از ارسال درخواست خود به مدلهای ابری مطلع میشوند گفت، برای کاربران شفافسازی میشود اما اطلاعات بیشتری از این اطلاعرسانی در دسترس نیست.
داون سانگ، یکی از رهبران مرکز هوش نامتمرکز مسئولانه UC Berkeley و متخصص رایانش خصوصی، میگوید نوآوریهای اپل جالب توجه هستند. او میگوید: «لیست اهدافی که آنها اعلام کردند فکر شده است. البته که در مسیر تحقق این اهداف چالشهایی رخ خواهد داد.»
کاهن میگوید با توجه به آنچه تا امروز میدانیم، به نظر میرسد این سیستم بیشتر از محصولات دیگر هوش مصنوعی از حریم خصوصی محافظت میکند. با این حال باید در کنار اعتماد، حقیقتسنجی کرد. به عبارت دیگر، تا زمانی که محققان مستقل این ادعاها را تایید نکنند و شرکت به یافتههای آنها پاسخ ندهد، از امنیت این سیستمها اطمینانی نداریم.
او میگوید: «فراهم کردن امکان دسترسی پژوهشگران مستقل گام بزرگی محسوب میشود. اما به این معنا نیست که شما وقتی پژوهشگران چیزی خلاف خواسته شما بگویند، به آن پاسخ مناسب میدهید.» اپل به درخواست MIT Techonology Review درمورد نحوه پاسخ شرکت به بازخورد محققان پاسخی نداده است.
اپل تنها شرکتی نیست که معتقد است بیشتر کاربران در ازای انجام خودکار وظایف دشوار، با دسترسی به دادههای خصوصی خود مشکلی ندارند. سم آلتمن، مدیرعامل اوپنایآی، ابزار رویایی هوش مصنوعی خود را اینگونه توصیف میکند: «[ابزاری] که هر چیز ممکن را درمورد تمام زندگی، تمام ایمیلها، حتی تمام مکالمههای من میداند.» گوگل نیز در مراسم توسعه دهنگان خود رد ماه مه از پروژه Astra رونمایی کرد که قرار است یک «عامل هوش مصنوعی فراگیر برای کارهای روزمره» بسازد.
بیشتر ما برای اولین بار باید در مورد نقش مدلهای هوش مصنوعی در ارتباط با دادهها و دستگاههایمان تصمیمگیری کنیم. وقتی ChatGPT برای اولین بار وارد صحنه شد، چنین سوالی پیش روی ما نبود. این ابزار یک مولد متن ساده بود که میتوانست متن و شعر برایمان بنویسد و سوالاتهایی داشت که چندان خصوصی نبودند.
حالا با گذشت کمتر از دو سال و با سرمایهگذاری چند میلیارد دلاری غولهای فناوری، باید ببینیم که آیا به اندازهای به این سیستمها اعتماد داریم تا اطلاعات خصوصی خود را در اختیار آن بگذاریم. روشن نیست که آیا به اندازه کافی برای این تصمیم گیری اطلاعات داریم و آیا در صورت تصمیمگیری میتوانیم دسترسی این سیستمها را محدود کنیم. کاهن میگوید: «من واقعا نگرانم که رقابت هوش مصنوعی باعث شود دادههای بیشتری از ما در اختیار دیگران قرار گیرد.»
اپل به زودی و در پاییز سال جاری نسخه بتای قابلیتهای Apple Intelligence را برای آیفون ۱۵ و سیستمعامل Sequoia مک عرضه میکند و مکها و آیپدهای مجهز به چیپ M1 و جدیدتر از آن پشتیبانی میکنند. تیم کوک، مدیرعامل اپل، میگوید: «ما فکر میکنیم Apple Intelligence گریزناپذیر خواهد بود.»