انحراف علم به‌دست سودجویان/ هوش مصنوعی چگونه موجب حملات سایبری می‌شود؟

به گزارش خبرنگار حوزه علم، فناوری و دانش‌بنیان گروه فناوری خبرگزاری آنا، با ظهور هوش مصنوعی به‌عنوان یک روند اصلی در فناوری، می‌توان گفت توانایی‌ها و خطرات احتمالی آن به‌طور موازی رو به افزایش است. در حال حاضر تفکری وجود دارد که انسان‌ها و جوامع توسط ماشین‌های همه‌چیز‌دان نابود خواهند شد. از طرفی نیز بسیاری از مردم قدردان هوش مصنوعی و بهبودهایی که می‌تواند برای تمدن ایجاد کند هستند.
فناوری یادگیری ماشین (ML) به مجموعه داده‌های عظیم نیاز دارد. در بسیاری از سیستم‌های دنیای واقعی مانند اتومبیل‌های خودران، ترکیبی پیچیده از سنسورهای بینایی رایانه‌ای، برنامه‌نویسی پیچیده برای تصمیم‌گیری آنی و روباتیک موردنیاز است. اما در مقابل مشاغلی که از هوش مصنوعی استفاده می‌کنند، استقرار آن ساده‌تر است اما نکته‌ای که وجود دارد این است که هوش مصنوعی می‌تواند به اطلاعات و کارکردهای مختلف سیستم دسترسی پیدا کرده و درنتیجه خطرات جدی ایجاد کند. بنابراین قبل از اتخاذ این فناوری باید همه جوانب در نظر گرفته شود.

هوش مصنوعی چه خطراتی ایجاد می‌کند؟
سوگیری تصادفی در سیستم‌های هوش مصنوعی چیز جدیدی نیست و برنامه نویسان یا مجموعه داده‌های خاص می‌توانند آن را محصور کنند. متأسفانه اگر این سوگیری منجر به اتخاذ تصمیمات ضعیف و حتی تبعیض‌آمیز شود، درنتیجه باعث ایجاد پیامدهای قانونی و خسارت به شهرت آن مجموعه می‌شود. برای مثال بسیاری از سیستم‌های تشخیص چهره و هوش مصنوعی تبعیض نژادی قائل می‌شوند و افراد سیاه‌پوست را تشخیص نمی‌دهند. این نوع سوگیری همچنین موجب پیش‌بینی اشتباه می‌شود و هوش مصنوعی نمی‌تواند تصمیمات دقیقی بگیرد.

ایجاد نظارت انسانی و آزمایش دقیق سیستم‌های هوش مصنوعی می‌تواند خطرات را در مرحله طراحی کاهش دهد. این امر همچنین با رصد دقیق آن سیستم‌ها در هنگام کار، امکان‌پذیر است. توانایی‌های تصمیم‌گیری سیستم‌های هوش مصنوعی باید اندازه‌گیری و ارزیابی شود تا اطمینان حاصل شود که سوگیری نوظهور یا تصمیم‌گیری مشکوک به‌سرعت رسیدگی می‌شود.

اگرچه این تهدیدها مبتنی بر خطاهای ناخواسته و شکست در طراحی و اجرا است، اما هنگامی‌که افراد قصد دارند سیستم‌های هوش مصنوعی را از کار بیندازند یا آنها را به‌عنوان سلاح به‌کار گیرند، مجموعه دیگری از خطرات ظاهر می‌شود.

مهاجمان سایبری چگونه می‌توانند هوش مصنوعی را دست‌کاری کنند؟
گمراه کردن سیستم‌های هوش مصنوعی می‌تواند به طرز نگران‌کننده‌ای آسان باشد! مهاجمان سایبری می‌توانند مجموعه داده‌ها را برای آموزش هوش مصنوعی دست‌کاری کنند، تغییرات نامحسوسی در پارامترهای و الگوریتم‌های طراحی‌شده دقیق انجام دهند تا هرگونه سوء‌ظن نادیده گرفته شود و درعین‌حال هوش مصنوعی را به‌آرامی در جهت موردنظرشان هدایت کنند.

در جایی که مهاجمان موفق به دسترسی به مجموعه داده‌ها نمی‌شوند، آنها ممکن است از گریز (دست‌کاری در ورودی‌ها که منجر به اشتباهات شدید می‌شود) استفاده کنند. درنتیجه شناسایی سخت می‌شود.

اگرچه ممکن است بررسی صحت داده‌ها و ورودی‌ها امکان‌پذیر نباشد، اما باید تلاش شود تا داده‌ها از منابع معتبر و قابل‌اطمینان جمع‌آوری شود. همچنین هوش مصنوعی باید طوری تقویت شود تا بتواند ورودی‌های مخرب را شناسایی کند. علاوه بر این سیستم‌های هوش مصنوعی باید به مکانیسم‌های پیشگیرانه مجهز شود که در صورت وقوع اشتباه یا عدم عملکرد صحیح، خاموش کردن آن به‌راحتی انجام گیرد.

چگونه می‌توان هوش مصنوعی را تبدیل به سلاح کرد؟
مجرمان سایبری همچنین می‌توانند از هوش مصنوعی برای اثربخشی حملات اجتماعی خود استفاده کنند. درواقع هوش مصنوعی می‌تواند تشخیص الگوهای رفتاری را کشف کند و بفهمد چگونه می‌توان مردم را به قانونی بودن یک ویدئو، تماس تلفنی یا ایمیل متقاعد کرد. سپس می‌تواند مردم را ترغیب کند که با شبکه‌ها تعامل کنند و داده‌های حساس را تحویل دهند. البته تمام تکنیک‌های اجتماعی که مجرمان سایبری در حال حاضر به کار می‌گیرند با استفاده از هوش مصنوعی می‌توانند به میزان قابل‌توجهی بهبود یابند.

برای مثال یکی از حملات سایبری که به کمک هوش مصنوعی اتفاق افتاد، حمله هکری به سایت «تسک ربیت» (TaskRabbit) در سال 2018 بود. (یک وب‌سایت آنلاین در زمینه دریافت خدمات خانه‌داری، اسباب‌کشی، تمیز ‏کردن خانه و انجام خرید‌های خرد). طی این حمله 3.75 میلیون کاربر این وب‌سایت در آوریل 2018 تحت تأثیر قرار گرفتند و هویت و اطلاعات حساب بانکی آنها سرقت شد.

در سال 2019 نیز دو حمله هکری توسط برخی هکرها علیه اینستاگرام انجام شد. این حملات که به کمک هوش مصنوعی صورت گرفت، حساب برخی افراد هک شد و اطلاعات و تصویر نمایه آنها تغییر یافت. در دیگر مورد رمزعبور حساب برخی افراد در صفحه آنها به نمایش گذاشته شد.

چگونه امنیت شرکت‌ها را با استفاده از هوش مصنوعی افزایش دهیم؟
هوش مصنوعی می‌تواند در نظارت بر شبکه و تجزیه‌و‌تحلیل‌ها، تنظیم مبنایی از رفتارهای طبیعی و کاهش دادن مغایرت‌ها در مواردی مانند دسترسی سرور و ترافیک داده‌ها، به‌طور آنی مؤثر باشد. تشخیص دخل و تصرفات پیش از وقوع، می‌تواند به شما فرصتی ارائه کند تا بتوانید صدمه‌ای که قرار است وارد شود را مهار کنید. این امر می‌تواند بسیار مفید باشد که ناهنجاری‌ها توسط یک سیستم هوش مصنوعی تشخیص داده شود و به واحدهای فناوری اطلاعات هشداری ارسال شود تا آنها موضوع را بررسی کنند.

با کمبود قابل‌توجه امنیت اطلاعات، هوش مصنوعی می‌تواند بار برخی مشکلات را به دوش بکشد و به کارمندان اجازه دهد تا روی مشکلات پیچیده تمرکز کنند. همچنین استفاده از سیستم‌های هوش مصنوعی به جای نیروی انسانی می‌توان ضمن کاهش هزینه‌های جاری شرکت‌ها، از مزایای بیشتر آنها بهره برد. آنها می‌توانند به‌طور 24ساعته کار کنند و موجب بهره‌وری بیشتر شوند. همچنین شرکت‌ها می‌توانند با نظارت بیشتر و آزمایش دقیق سیستم‌های هوش مصنوعی خطرات بالقوه حملات سایبری را کاهش دهند و از داده‌های خود محافظت کنند.

درنهایت، اکنون‌که هوش مصنوعی به ابزاری اصلی در دست هکرها تبدیل شده، آینده امنیت دیجیتال مشخص نیست. اگرچه هوش مصنوعی ممکن است سپر مؤثری در برابر این نوع حملات سایبری باشد، اما آژانس‌های امنیت سایبری و توسعه‌دهندگان وب‌سایت باید با راه‌حل‌های بسیار نوآورانه‌تری برای محافظت مؤثر از داده‌های کاربران خود ارائه دهند.
انتهای پیام/4112/پ