محققان می گویند محدودیت های قرار داده شده در چت بات ChatGPT توسط OpenAI برای جلوگیری از سو استفاده چندان کارایی نداشته و کلاهبرداران با دور زدن آن توانسته اند از این فناوری برای تولید کدهای بدافزار استفاده کنند.
به گزارش تکنا، گزارش های جدید نشان می دهد کلاهبرداران از چت بات ChatGPT برای بهبود کدهای یک بدافزار استفاده کرده اند.
امکان استفاده از چت بات ChatGPT به دو روش وجود دارد. یکی از آنها رابط کاربری وب و دیگری رابط های برنامه نویسی و ساخت برنامه هاست. از طریق API امکان استفاده از مدل های OpenAI در رابط کاربری توسعه دهندگان وجود دارد.
به گفته محققان، با وجود محدودیت های قوی در رابطه با استفاده از رابط وب، OpenAI هیچ محدودیتی در استفاده از رابط API ایجاد نکرده است. در این مورد گفته شده است: در حال حاضر در نسخه کنونی API OpenAI محدودیت های مربوط به ضد سواستفاده بسیار کم است. بنابراین به راحتی می توان محتوای مخرب مانند ایمیل های فیشینگ و کدهای بدافزار ایجاد و به کاربران ارسال کرد.
این محققان همچنین اعلام کردند در محافل زیرزمینی اینترنت تلاش برای دور زدن محدودیت های ChatGPT انجام می شود و نشان دهنده تعداد زیادی از هکرها از امکان دور زدن محدودیت ها آگاه هستند. شرکت بلک بری اخیرا نظرسنجی ای را در این رابطه انجام داده است که نشان می دهد اکثر کارشناسان آی تی معتقدند که اولین حمله سالاری با استفاده از ChatGPT در کمتر از یکسال دیگر رخ می دهد.
مطالعه جدید محققان نشان میدهد استفاده از سیستمهای هوش مصنوعی تولید کننده کد همراه با آسیب پذیری های امنیتی خواهد بود. به گزارش تکنا، مطالعات اخیر مهندسان نرم افزاری در زمینه سیستم های هوش مصنوعی نشان میدهد احتمال ایجاد آسیب پذیری های امنیتی در برنامه هایی که با کمک هوش مصنوعی توسعه داده شده اند […]
کاربرد ابزار هوش مصنوعی ChatGTP در انجام کارهای مختلف رو به افزایش است. یکی از مهمترین قابلیت آن نوشتن مقالات دانشگاهی است بسیار مورد توجه قرار گرفته است. از طرفی استادان دانشگاه استنفورد برای تشخیص این مقالات ابزار جدیدی توسعه داده اند. به گزارش سرویس تکنا، ابزار جدید DetectGTP می تواند در تشخیص مقالات غیرمجاز کمک کند. این […]
در لایحه بودجه ۱۴۰۲ شاهد تبصره جدیدی هستیم که برای کسب و کارهای اینترنتی حقیقی در نظر گرفته شده است. در صورتی که این مطلب و کارها در پلتفرم های داخلی فعالیت کنند از مزایای بسیاری برخوردار خواهند شد. به عنوان مثال فعالیت در پلتفرم های داخلی همراه با معافیت مالیاتی و همچنین بخشودگی جرائم […]
دیدگاهتان را بنویسید