Một phiên bản mới, được đào tạo tùy chỉnh của LLM (Mô hình ngôn ngữ lớn) đang được thực hiện, nhưng vì những lý do tồi tệ nhất có thể xảy ra. WormGPT, như tên được người tạo ra nó đặt tên, là một công cụ đàm thoại mới — dựa trên mô hình ngôn ngữ GPT-J phát hành năm 2021 — đã được đào tạo và phát triển với mục đích duy nhất là viết và triển khai các công cụ và mã hóa mũ đen. Lời hứa là nó sẽ cho phép người dùng phát triển phần mềm độc hại cấp cao nhất với một phần chi phí (và kiến thức) cần thiết trước đây. Công cụ này đã được kiểm tra bởi công ty an ninh mạng SlashNext, người đã cảnh báo trong một bài đăng trên blog rằng “những kẻ độc hại hiện đang tạo các mô-đun tùy chỉnh của riêng chúng tương tự như ChatGPT, nhưng dễ sử dụng hơn cho các mục đích bất chính”. Dịch vụ này có thể được cung cấp hàng tháng “thích hợp” đăng ký: 60 euro mỗi tháng, hoặc 550 euro một năm. Có vẻ như mọi người, kể cả tin tặc, đều yêu thích Phần mềm dưới dạng Dịch vụ.
Theo nhà phát triển WormGPT, “Dự án này nhằm mục đích cung cấp một giải pháp thay thế cho ChatGPT, một giải pháp cho phép bạn thực hiện tất cả các loại nội dung bất hợp pháp và dễ dàng bán trực tuyến trong tương lai. Mọi thứ liên quan đến mũ đen mà bạn có thể nghĩ đến đều có thể được thực hiện với WormGPT, cho phép bất kỳ ai truy cập vào hoạt động độc hại mà không cần rời khỏi nhà của họ.”
Dân chủ hóa là tốt và tốt, nhưng có lẽ nó không phải là tốt nhất khi đề cập đến sự gia tăng và trao quyền cho các chủ thể có ác ý.
Theo ảnh chụp màn hình do người tạo đăng tải, về cơ bản, WormGPT hoạt động giống như một phiên bản không được bảo vệ của ChatGPT — nhưng một phiên bản sẽ không chủ động chặn các cuộc hội thoại khi có rủi ro. WormGPT rõ ràng có thể tạo ra phần mềm độc hại được viết bằng Python và sẽ cung cấp các mẹo, chiến lược và giải pháp cho các vấn đề liên quan đến việc triển khai phần mềm độc hại.
Phân tích của SlashNext về công cụ này thật đáng lo ngại. Sau khi hướng dẫn đại lý tạo một email nhằm gây áp lực buộc nạn nhân thanh toán hóa đơn gian lận, kết quả thật đáng lo ngại: WormGPT đã tạo ra một email không chỉ có sức thuyết phục đáng kể mà còn rất xảo quyệt về mặt chiến lược, cho thấy khả năng lừa đảo tinh vi và BEC của nó. [Business Email Compromise] tấn công.”
Chỉ là vấn đề thời gian trước khi ai đó lấy tất cả những điều tốt đẹp về việc có các mô hình Trí tuệ nhân tạo (AI) nguồn mở và lật tẩy chúng. Đó là một điều để phát triển sự hài hước, khoe khoang của một trợ lý AI giống như trò chuyện (nhìn bạn, BratGPT). Việc phát triển một mô hình đàm thoại đã được đào tạo về các ngôn ngữ cụ thể và các cách che giấu của Dark Web lại là một việc khác. Nhưng để biến các kỹ năng lập trình nổi tiếng thế giới của ChatGPT và chỉ áp dụng chúng cho việc phát triển phần mềm độc hại do AI viết lại là một việc hoàn toàn khác.
Tất nhiên, về mặt lý thuyết, WormGPT cũng có thể trở thành một tổ ong mật thực sự và đào tạo một tác nhân AI như những tác nhân này để tạo ra phần mềm độc hại chức năng. luôn bị bắt và đảm bảo xác định được người gửi. Chúng tôi không nói rằng đó là những gì đang xảy ra với WormGPT, nhưng điều đó là có thể. Vì vậy, bất cứ ai sử dụng nó tốt hơn nên kiểm tra mã của họ, từng dòng một.
Trong trường hợp của các tác nhân AI do tư nhân phát triển này, điều quan trọng cần lưu ý là một số ít (nếu có) sẽ thể hiện các khả năng chung bên cạnh những gì chúng ta mong đợi từ ChatGPT của OpenAI. Mặc dù các kỹ thuật và công cụ đã được cải thiện rất nhiều, nhưng việc đào tạo một tác nhân AI mà không có kinh phí (và dữ liệu) vẫn là một nỗ lực tốn kém và tốn thời gian. Nhưng có một thực tế là khi các công ty chạy nước rút hướng tới cơn sốt vàng AI, chi phí sẽ tiếp tục giảm mạnh, các bộ dữ liệu và phương pháp đào tạo sẽ được cải thiện, đồng thời ngày càng có nhiều tác nhân AI tư nhân có năng lực hơn như WormGPT và BratGPT sẽ tiếp tục xuất hiện.
WormGPT có thể là hệ thống đầu tiên được công nhận rộng rãi, nhưng chắc chắn nó sẽ không phải là hệ thống cuối cùng.
