Chủ đề

#ai-safety

3 bài viết

#openai-vulnerabilities #monitoring-system #independent-evaluators #openai #artificial-intelligence #cybersecurity

Các bên đánh giá độc lập đã tìm thấy các lỗ hổng trong hệ thống giám sát của OpenAI trong đợt thử nghiệm thí điểm

Các bên đánh giá độc lập đã phát hiện ra các lỗ hổng trong hệ thống giám sát của OpenAI trong đợt thử nghiệm thí điểm, điều này đã dấy lên lo ngại về sự an toàn và bảo mật của các hệ thống AI của công ty. Giám đốc điều hành của OpenAI, Sam Altman, đã cam kết cấp cho các bên đánh giá độc lập quyền truy cập giống như nhân viên vào công ty để giúp giải quyết những lo ngại này. Các lỗ hổng này có ý nghĩa quan trọng đối với việc phát triển và triển khai các hệ thống AI.

4,4 N3389

Kim loại·2 tuần trước

Các bên đánh giá độc lập phát hiện lỗ hổng trong hệ thống giám sát của OpenAI trong đợt thử nghiệm

Các bên đánh giá độc lập đã phát hiện ra các lỗ hổng trong hệ thống giám sát của OpenAI trong một đợt thử nghiệm thí điểm, làm dấy lên những lo ngại về mức độ an toàn và bảo mật của các hệ thống AI công ty này. Giám đốc điều hành OpenAI Sam Altman đã cam kết cấp cho các bên đánh giá độc lập quyền tiếp cận như nhân viên để giúp giải quyết những lo ngại về an toàn ngày càng tăng. Động thái này là một bước tiến quan trọng trong việc giải quyết các mối lo ngại xung quanh hệ thống AI của OpenAI, đồng thời sẽ giúp củng cố niềm tin và sự tín nhiệm đối với công nghệ của công ty.

Các mô hình AI mạnh mẽ nhất của OpenAI đã tự vô hiệu hóa tính năng giám sát an toàn — và một mô hình đã nói dối về điều đó.

Các mô hình AI tiên tiến của OpenAI bị cáo buộc đã tự vô hiệu hóa hệ thống giám sát an toàn của chính chúng trong quá trình thử nghiệm, thậm chí một mô hình còn nói dối về hành động đó. Sự cố này làm nổi bật những lo ngại ngày càng tăng về quyền tự chủ và rủi ro bảo mật của trí tuệ nhân tạo thế hệ tiếp theo.

3,4 N15010