Mô hình Astra của OpenAI lần đầu chạm ngưỡng Critical về năng lực tấn công mạng, buộc công ty phải siết bảo mật và trì hoãn kế hoạch phát hành.

OpenAI đang phải đối mặt với một bài toán chưa từng xuất hiện ở mức độ này khi mô hình AI sắp ra mắt mang tên Astra được đánh giá có khả năng chạm ngưỡng Critical, mức cảnh báo cao nhất trong khung an toàn nội bộ của công ty.

Kết quả đánh giá được công bố ngày 7/8 cho thấy, Astra đã tiến bộ đáng kể về khả năng tự động viết mã và thực hiện các tác vụ liên quan đến tấn công mạng. OpenAI nhấn mạnh đây mới là đánh giá sơ bộ, quá trình kiểm tra vẫn tiếp tục và chưa thể khẳng định chắc chắn mô hình đã đạt ngưỡng nguy cấp. Tuy nhiên, chỉ riêng khả năng chạm đến mức này cũng đủ khiến công ty phải thay đổi kế hoạch phát triển và triển khai mô hình.

Trong Preparedness Framework, ngưỡng Critical về an ninh mạng được đặt ra cho những mô hình có khả năng thực hiện các hoạt động tấn công ở mức độ rất cao với mức can thiệp tối thiểu từ con người. Theo tiêu chí của OpenAI, mô hình có thể bị xếp vào nhóm này nếu đủ khả năng tự tìm và phát triển các lỗ hổng zero-day trên nhiều hệ thống thực tế đã được bảo vệ, hoặc tự xây dựng và thực hiện một chiến lược tấn công mạng mới chỉ từ một mục tiêu cấp cao.

Đây là bước tiến vượt xa việc AI chỉ hỗ trợ lập trình viên phân tích mã nguồn hay phát hiện những lỗ hổng đã được biết trước. Nếu những năng lực này tiếp tục được cải thiện, AI có thể trở thành công cụ hỗ trợ cả bên phòng thủ lẫn những đối tượng muốn khai thác hệ thống.

OpenAI lần đầu ghi nhận một mô hình có khả năng chạm ngưỡng Critical trong đánh giá năng lực an ninh mạng nội bộ. 

Điểm đáng chú ý là Astra không phải phiên bản AI đầu tiên của OpenAI thể hiện năng lực tấn công mạng đáng kể. Tuy nhiên, theo công ty, các mô hình trước đó như GPT-5.6 Sol mới dừng ở mức High trong quá trình đánh giá. OpenAI cũng tách Astra khỏi sự cố xảy ra hồi tháng 7, khi một tổ hợp gồm GPT-5.6 Sol và một mô hình chưa phát hành đã thoát khỏi môi trường thử nghiệm, khai thác một lỗ hổng zero-day trong phần mềm proxy nội bộ để truy cập Internet và sau đó xâm nhập hạ tầng sản xuất của Hugging Face. Theo OpenAI, mục tiêu khi đó là lấy đáp án của bài kiểm tra an ninh mạng ExploitGym thay vì tự giải bài. Hugging Face xác nhận đã phát hiện và ngăn chặn hoạt động này, đồng thời cho biết không nhận thấy dấu hiệu OpenAI có ý đồ xấu.

Sau phát hiện mới liên quan đến Astra, OpenAI cho biết sẽ tăng đáng kể các lớp bảo vệ trước khi cho phép mô hình tiếp tục những hoạt động nội bộ chưa đáp ứng tiêu chuẩn mới. Các biện pháp được đưa ra bao gồm cách ly môi trường thử nghiệm, hạn chế quyền truy cập mạng và công cụ, tăng cường mã hóa và bảo vệ trọng số mô hình, bổ sung hệ thống giám sát, phát hiện bất thường và sử dụng sandbox. Công ty cũng cho biết sẽ theo dõi toàn diện chuỗi suy luận của các mô hình trong những ứng dụng dạng agent, kể cả trong quá trình huấn luyện và đánh giá. Nói cách khác, thay vì chỉ kiểm tra sản phẩm cuối cùng, OpenAI đang tìm cách kiểm soát cả cách những mô hình có năng lực cao hoạt động trong suốt vòng đời phát triển.

 

OpenAI cho biết sẽ tăng cường sandbox, giới hạn quyền truy cập và giám sát các mô hình AI có năng lực tấn công mạng cao.

Diễn biến này cho thấy vấn đề an toàn AI đang chuyển từ câu chuyện giả định sang bài toán kỹ thuật ngày càng cụ thể. Cùng thời điểm OpenAI công bố cảnh báo về Astra, Anthropic cũng tăng cường các biện pháp bảo vệ đối với mô hình Mythos sau những lo ngại về năng lực tấn công mạng. Trước đó, Kimi K3 của Moonshot AI cũng từng được đề cập trong một sự cố liên quan đến việc thoát khỏi sandbox thử nghiệm. Những trường hợp này cho thấy khi mô hình AI ngày càng có khả năng tự lập kế hoạch, viết mã và sử dụng công cụ, việc kiểm soát quyền truy cập và môi trường hoạt động trở nên quan trọng không kém khả năng của chính mô hình.

Tại hội nghị bảo mật Black Hat, Michael Dalton, thành viên đội kỹ thuật của OpenAI, cho biết công ty đang chủ động giảm tốc độ nghiên cứu để dành thêm thời gian nâng cấp quy trình bảo mật. OpenAI vẫn giữ mục tiêu biến AI có năng lực an ninh mạng mạnh thành công cụ hỗ trợ bên phòng thủ, giúp phát hiện và vá lỗ hổng trước khi chúng bị khai thác.

Công ty cũng đã chủ động thông báo với Nhà Trắng về kế hoạch trì hoãn Astra trong bối cảnh Washington đang xây dựng cơ chế để các hãng AI chia sẻ quyền tiếp cận những mô hình mạnh với cơ quan chức năng trước khi phát hành rộng rãi. Astra hiện chưa có ngày ra mắt chính thức, và việc một mô hình lần đầu chạm ngưỡng Critical có thể trở thành dấu mốc cho thấy cuộc đua AI đang bước vào giai đoạn mà tốc độ phát triển phải đi song song với khả năng kiểm soát rủi ro.

Nguồn: BÁO MỚI 

Cơn khát bộ nhớ do AI đã khiến giá RAM tăng phi mã, xóa sạch thành quả giảm giá trong 20 năm qua chỉ sau vài tháng.

Theo chuyên gia phát triển phần mềm Daniel Lemire, giá RAM tính trên mỗi đơn vị dung lượng (GB) vừa tăng mạnh, quay trở lại mốc tương đương năm 2007. Đây là hiện tượng chưa từng có tiền lệ, bởi lẽ theo xu hướng phát triển công nghệ truyền thống, giá phần cứng luôn giảm dần qua các năm.

Dữ liệu từ dự ánDAMcủa Đại học Stanford cho thấy giá bộ nhớ DDR5 hiện dao động từ 11,41-13,28 USD/GB. Lần gần nhất giá RAM chạm mốc này là vào năm 2007, khi bộ nhớ DDR2 dao động ở mức 11-15 USD/GB. Tình trạng này khiến thành tựu giảm chi phí sản xuất suốt 20 năm qua hoàn toàn biến mất.

Nếu tính tỷ lệ lạm phát, mức giá hiện tại tương đương 10,94-12,74 USD/GB, quay trở lại mốc của năm 2011 khi DDR3 ở mức 11,85 USD/GB. Để so sánh, trước khi làn sóng AI bùng nổ, RAM DDR5 tiêu chuẩn có giá chỉ dao động khoảng 2,5-3 USD/GB. Nhờ đó, một bộ RAM 32 GB khi ấy chỉ khoảng 80-95 USD.

 

Giá RAM trước khi bùng nổ AI chỉ rơi vào khoảng 2,5 - 3 USD/GB. Ảnh: Stanford. 

Mức tăng giá kỷ lục đến từ việc các tập đoàn gom trọn bộ nhớ băng thông cao (HBM) phục vụ các trung tâm dữ liệu AI. Dù sản lượng bộ nhớ toàn cầu vẫn tăng trưởng khoảng 20%/năm - mức tăng nhanh đối với một ngành công nghiệp, con số này hoàn toàn bị lấn át bởi tốc độ tiêu thụ.

“Nhu cầu bộ nhớ đang tăng 200% mỗi năm, hoặc có thể cao hơn”, Elon Musk phát biểu trong cuộc họp báo cáo tài chính gần nhất của SpaceX.

Đồng quan điểm trên, Chủ tịch SK-Group - tập đoàn sở hữu nhà sản xuất chip SK Hynix, cũng thừa nhận giá RAM hiện ở mức “cao bất thường” và toàn ngành cần hành động để tăng nguồn cung.

Ngay cả các dòng RAM sử dụng chip CXMT của Trung Quốc, vốn được kỳ vọng là phương án giá rẻ, cũng tăng giá theo xu hướng chung của các ông lớn như Micron, Samsung và SK Hynix.

Hệ lụy của đợt khủng hoảng này không dừng lại ở người dùng máy tính cá nhân. Mức giá bộ nhớ leo thang đang tạo áp lực lên cả giá thành card đồ họa, làm suy giảm thị trường smartphone giá rẻ, đồng thời tác động trực tiếp đến ngành sản xuất ôtô thông minh.

Sự mất cân bằng cung cầu hiện tại đang đẩy chi phí toàn bộ hệ sinh thái phần cứng lên mức rất khó kiểm soát.

Nguồn: BÁO MỚI 

Sáng chế ba lô tích hợp chăn sưởi năng lượng mặt trời của cô bé 12 tuổi người Scotland giúp người vô gia cư chống chọi với mùa đông giá lạnh.

Phát minh chăn sưởi năng lượng mặt trời cứu sống người vô gia cư. Ảnh: BGR.

Ở độ tuổi 12, phần lớn trẻ em thường chưa nghĩ đến việc làm thế nào để trợ giúp những người có hoàn cảnh khó khăn. Tuy nhiên, Rebecca Young lại là một ngoại lệ khi sáng kiến của em vừa được vinh danh trên tạp chí danh tiếng. Nhà sáng tạo trẻ tuổi này đã thiết kế thành công chiếc ba lô năng lượng mặt trời tích hợp chăn điện sưởi ấm, giúp những người vô gia cư chống chọi với cái lạnh khắc nghiệt của mùa đông Scotland.

Ý tưởng độc đáo này xuất phát từ một cuộc thi kỹ thuật quy mô lớn dành cho học sinh. Vượt qua hơn 70,000 thí sinh tham dự trên toàn thế giới, thiết kế của em đã xuất sắc giành chiến thắng chung cuộc. Sau đó, hàng loạt chiếc ba lô đã được sản xuất thử nghiệm và trao tặng cho một trung tâm bảo trợ xã hội tại thành phố Glasgow. Thành công của phát minh này không chỉ nhận được sự đánh giá cao từ giới chuyên môn mà còn thu hút sự chú ý của tập đoàn sản xuất đồ chơi Lego, đơn vị đã tạo riêng một mô hình nhân vật hoạt hình mô phỏng hình ảnh của em.

Về mặt cấu tạo, thiết kế sử dụng các tấm pin năng lượng mặt trời có khả năng gấp gọn để hấp thụ năng lượng vào ban ngày, kết hợp cùng hệ thống pin lưu trữ điện năng. Nhờ sự hỗ trợ từ các đối tác công nghệ và kỹ thuật chuyên nghiệp, bản thiết kế ban đầu đã được hoàn thiện với nhiều chế độ điều chỉnh nhiệt độ cùng các tính năng an toàn tối ưu cho người sử dụng. Toàn bộ hệ thống có thể xếp gọn gàng vào trong một chiếc ba lô nhỏ nhẹ, giúp người dùng dễ dàng mang theo di chuyển và sử dụng khi thời tiết chuyển lạnh.

Sáng kiến này đã giải quyết một thách thức thực tế lớn trong xã hội, khi người vô gia cư phải đối mặt với điều kiện thời tiết khắc nghiệt và nguy cơ hạ nhiệt độ cơ thể. Việc cung cấp thiết bị sưởi ấm tự động giúp họ duy trì sức khỏe trong những khoảng thời gian giá lạnh nhất.

Hiện tại, sản phẩm đã được đưa vào sản xuất thương mại với quy mô lớn nhờ sự phối hợp của các tổ chức từ thiện và doanh nghiệp hỗ trợ quân nhân giải ngũ. Mỗi thiết bị bán ra thị trường sẽ đồng nghĩa với một chiếc ba lô chăn sưởi được quyên góp trực tiếp cho các quỹ hỗ trợ xã hội. Phát minh mang tính nhân văn của nhà sáng tạo trẻ đang tiếp tục lan tỏa, mang lại những giải pháp công nghệ thiết thực để bảo vệ sức khỏe cho cộng đồng yếu thế trong xã hội.

Một mô hình AI của Meta đã xâm nhập hệ thống của một doanh nghiệp khác trong quá trình thử nghiệm an ninh mạng, làm dấy lên thêm lo ngại về rủi ro từ các tác nhân AI ngày càng tự chủ.

Ảnh minh họa: AI

Theo xác nhận từ Meta, sự cố liên quan đến mô hình Muse Spark xảy ra do lỗi cấu hình trong môi trường đánh giá, vô tình cho phép hệ thống truy cập Internet. Trong quá trình này, AI đã thực hiện một số thay đổi trên hệ thống nội bộ của công ty bị ảnh hưởng.

Meta cho biết đang phối hợp với đơn vị thử nghiệm độc lập Irregular để điều tra và sẽ công bố báo cáo chi tiết. Phía Irregular khẳng định sự cố không phải là một cuộc tấn công mạng có chủ đích mà xuất phát từ vấn đề kiểm soát môi trường thử nghiệm.

Đây là trường hợp mới nhất trong chuỗi sự cố liên quan đến các mô hình AI lớn. Trước đó, các hệ thống của OpenAI và Anthropic cũng bị phát hiện có hành vi truy cập Internet ngoài dự kiến và tìm cách xâm nhập hệ thống khác trong các bài kiểm tra an ninh mạng.

Theo đánh giá của Viện An ninh AI thuộc Chính phủ Anh, một số mô hình thậm chí đã thử cài mã độc vào dự án phần mềm nguồn mở và tạo danh tính giả để vượt qua kiểm duyệt, dù đã bị phát hiện kịp thời.

Giới chuyên gia cho rằng các sự cố này phản ánh thách thức ngày càng lớn trong việc kiểm soát các hệ thống AI có khả năng tự hành động. Việc thiết lập các cơ chế giám sát, giới hạn truy cập và tiêu chuẩn an toàn chặt chẽ được xem là yếu tố then chốt để giảm thiểu rủi ro khi công nghệ này tiếp tục phát triển nhanh chóng.

Nguồn: BÁO MỚI