سم آلتمن، مدیرعامل OpenAI، هشدار داده است که پیشرفت سریع هوش مصنوعی می‌‌تواند بحران بزرگی از نظر کلاهبرداری و جعل هویت به همراه داشته باشد. او معتقد است که سامانه‌های دیپ‌فیک اکنون قادرند صدای افراد را با دقت بالا بازتولید کنند و در آینده‌ای نزدیک تصاویر و ویدیوهای جعلی از مکالمات و تماس‌های تصویری ایجاد خواهد شد. این امر اعتماد به سیستم‌های احراز هویت صوتی و تصویری را به چالش می‌کشد.

• کلاهبرداران می‌توانند با استفاده از صداهای ساختگی، تماس‌های اضطراری یا درخواست‌های مالی جعلی ارسال کنند.
• برخی بانک‌ها از احراز هویت صوتی برای تأیید مشتریان استفاده می‌کنند که با این فناوری دیگر امن نیست.
• نمونه‌هایی از کلاهبرداری‌های چند میلیون دلاری با استفاده از صدای جعلی گزارش شده است.
• شرکت‌ها و کاربران باید سیستم‌های امنیتی خود را به‌روز کنند و از روش‌های چندمرحله‌ای استفاده کنند.

اگرچه ابزارهای هوش مصنوعی مزایای فراوانی دارند، اما باید با آگاهی و احتیاط نسبت به سوءاستفاده‌های احتمالی آماده شد. آموزش عمومی و توسعه فناوری‌های تشخیص دیپ‌فیک می‌تواند راهکار مقابله با این تهدید باشد.