时间：2025-02-11 00:23:07 来源：NEWS

Cơ quan An ninh mạng Vương quốc Anh cảnh báo các tổ chức đang tích hợp chatbot trí tuệ nhân tạo (AI) vào sản phẩm và dịch vụ,ệpcầnđánhgiárủirobảomậtkhitíchhợpcáccôngcụgia xang dau nghiên cứu cho thấy các công cụ AI dễ dàng bị dẫn dắt thực hiện những tác vụ độc hại.

Trong bài đăng trên blog ngày 30/8, Trung tâm An ninh mạng Vương quốc Anh (NCSC) cho hay, các chuyên gia vẫn chưa thể nắm bắt được các vấn đề an ninh mạng tiềm ẩn gắn với những thuật toán có thể tương tác “giống con người”, tức các mô hình ngôn ngữ lớn (LLM).

NCSC cho biết điều này mang theo những rủi ro, khi các mô hình như vậy được đưa vào quy trình kinh doanh của doanh nghiệp. Giới học giả và nghiên cứu gần đây liên tục tìm ra cách “đánh lừa” AI, hướng dẫn chatbot thực hiện lừa đảo hay phá vỡ các rào chắn bảo vệ được tích hợp.

Chẳng hạn, một chatbot AI sử dụng tại một ngân hàng có thể bị lừa tiến hành giao dịch trái phép nếu tin tặc đưa ra “chỉ dẫn” đúng.

“Các tổ chức xây dựng dịch vụ xung quanh LLMs cần cẩn trọng trên tinh thần họ đang sử dụng một sản phẩm mới ở giai đoạn thử nghiệm (beta)”, trích thông báo của NCSC, đề cập đến những AI phát hành thử nghiệm gần đây.

Cuộc thăm dò mới nhất của Reuters/Ipsos cho thấy nhiều nhân viên công ty đang sử dụng công cụ như ChatGPT để thực hiện các tác vụ cơ bản như dự thảo mail, tóm tắt tài liệu và thu thập dữ liệu nghiên cứu ban đầu.

Trong đó chỉ 10% nhân viên nói rằng cấp trên của họ cấm sử dụng công cụ AI bên ngoài một cách rõ ràng và 25% không biết liệu công ty có cho phép sử dụng công nghệ này hay không.

Oseloka Obiora, giám đốc công nghệ tại hãng bảo mật RiverSafe nhận định, cuộc đua tích hợp AI vào mô hình kinh doanh sẽ tạo ra những “hậu quả thảm khốc” khi lãnh đạo doanh nghiệp không tiến hành những bước kiểm tra cần thiết. “Thay vì đu theo xu hướng AI, các giám đốc cấp cao nên suy nghĩ kỹ và tiến hành đánh giá lợi ích/rủi ro, cũng như các biện pháp bảo mật cần thiết để bảo vệ doanh nghiệp”.

Tin giả và tin tặc

Trên toàn thế giới, chính phủ các nước cũng đang tìm cách quản lý sự trỗi dậy của các LLM như ChatGPT của OpenAI. Lo ngại về tính bảo mật của công nghệ mới cũng là trọng tâm chính sách khi Mỹ và Canada gần đây nói rằng họ đã phát hiện tin tặc tăng cường lợi dụng AI tạo sinh.

Một hacker thậm chí nói rằng anh ta phát hiện một LLM đã được “huấn luyện” bằng các tài liệu độc hại và thử yêu cầu nó xây dựng kế hoạch lừa đảo chuyển tiền. Đáp lại, AI tạo ra bức thư điện tử dài ba đoạn, yêu cầu người nhận thanh toán hoá đơn khẩn cấp.

Tháng 7/2023, Trung tâm An ninh mạng Canada ghi nhận việc gia tăng sử dụng AI trong “lừa đảo qua email, nhúng mã độc, thông tin sai lệch và xuyên tạc”. Sami Khoury, giám đốc trung tâm không cung cấp bằng chứng chi tiết, song khẳng định giới tội phạm mạng đang tích cực lợi dụng công nghệ mới nổi này.

Lãnh đạo này cũng cho biết, mặc dù việc sử dụng AI soạn thảo mã độc mới ở giai đoạn đầu, song mô hình AI đang phát triển quá nhanh dễ dẫn đến mức không thể kiểm soát những rủi ro độc hại của chúng.

Trước đó, tháng 3/2023, tổ chức Cảnh sát châu Âu Europol công bố báo cáo nói rằng ChatGPT có thể “mạo danh tổ chức, cá nhân theo cách rất thực tế ngay cả khi chỉ sử dụng tiếng Anh một cách cơ bản”. Cùng tháng, Trung tâm An ninh mạng quốc gia Anh nói rằng “LLM có thể được sử dụng để hỗ trợ các cuộc tấn công mạng”.

(Theo Reuters)

Bốn mô hình AI hàng đầu tranh tài ‘bịa chuyện’

Nghiên cứu mới nhất cho thấy các mô hình AI hàng đầu của Meta, OpenAI, Cohere và Anthropic đều tạo ra thông tin sai lệch.

上一篇：Kèo vàng bóng đá Empoli vs AC Milan, 00h00 ngày 9/2: Đối thủ kỵ giơ
下一篇：Nhận định, soi kèo Angers vs Marseille, 02h45 ngày 10/2: Chặn đà tiến chủ nhà

• ·Siêu máy tính dự đoán Real Madrid vs Atletico Madrid, 03h00 ngày 9/2
• ·Katy Perry hoãn cưới ở Nhật Bản vì dịch Covid
• ·Nhận định, soi kèo Gaziantep vs Fenerbahce, 0h45 ngày 8/2: Trao vé cho khách
• ·Nguyễn Ngọc Anh khoe cận mặt con gái đáng yêu với tình trẻ
• ·Nhận định, soi kèo Stoke City vs Cardiff City, 22h00 ngày 8/2: Đối thủ khó nhằn
• ·Hoàng Thuỳ Linh sẽ hát live cùng ban nhạc Anh Em
• ·Jack sẽ là đối thủ của Sơn Tùng?
• ·Nhận định, soi kèo Gaziantep vs Fenerbahce, 0h45 ngày 8/2: Trao vé cho khách
• ·Nhận định, soi kèo Auxerre vs Toulouse, 23h15 ngày 9/2: 'Con mồi' quen thuộc
• ·Nhận định, soi kèo FK MOIK Baku với Karvan FK, 17h00 ngày 8/2: Chưa cùng đẳng cấp
• ·Jack tung MV đầu tiên sau khi tách khỏi K
• ·Cha đẻ nhạc phim ‘Về nhà đi con’ khiến Chí Trung khóc
• ·Nhận định, soi kèo PSG vs Monaco, 3h05 ngày 8/2: Khẳng định vị thế
• ·Hoàng Thùy Linh gây xôn xao vì hát live kém
• ·Tân Nhàn hát về vẻ đẹp người phụ nữ trong MV mừng 8/3
• ·Hoàng Thuỳ Linh kể câu chuyện từ 'vàng anh' trở thành ''phượng hoàng' bằng âm nhạc