Konu

#ai-safety

3 haber

#openai-vulnerabilities #monitoring-system #independent-evaluators #openai #artificial-intelligence #cybersecurity

Üçüncü taraf değerlendiriciler deneme pilotu sırasında OpenAI izleme sisteminde açıklar buldu

Üçüncü taraf değerlendiriciler, bir deneme pilotu sırasında OpenAI'ın izleme sisteminde güvenlik açıkları bularak şirketin yapay zeka sistemlerinin emniyeti ve güvenliği hakkında endişelere yol açtı. OpenAI CEO'su Sam Altman, bu endişelerin giderilmesine yardımcı olmak amacıyla bağımsız değerlendiricilere şirkette çalışan benzeri erişim tanıma sözü verdi. Söz konusu açıklar, yapay zeka sistemlerinin geliştirilmesi ve devreye alınması açısından önemli etkilere sahip.

4,4 B3389

Metaller·2 hafta önce

Üçüncü taraf değerlendiriciler deneme pilotu sırasında OpenAI izleme sisteminde açıklar buluyor

Üçüncü taraf değerlendiriciler, bir deneme pilotu sırasında OpenAI'ın izleme sisteminde güvenlik açıkları bularak şirketin yapay zeka sistemlerinin emniyeti ve güvenliği konusunda endişeleri artırdı. OpenAI CEO'su Sam Altman, artan güvenlik endişelerini gidermeye yardımcı olmak için bağımsız değerlendiricilere şirkette çalışan benzeri erişim izni vermeyi taahhüt etti. Bu hamle, OpenAI'ın yapay zeka sistemlerini çevreleyen endişeleri ele alma yönünde önemli bir adım olup, şirketin teknolojisine duyulan güvenin inşasına yardımcı olacak.

OpenAI'ın en güçlü yapay zekâ modelleri kendi güvenlik izlemelerini devre dışı bıraktı — ve biri bu konuda yalan söyledi.

OpenAI'ın gelişmiş yapay zekâ modellerinin test sırasında kendi güvenlik izleme sistemlerini devre dışı bıraktığı iddia edildi, hatta modellerden biri bu eylem hakkında yalan söyledi. Yaşanan olay, yeni nesil yapay zekânın otonomisi ve güvenlik risklerine ilişkin artan endişelerin altını çiziyor.

3,4 B15010