03/08/2026
Claude AI туршилтын үеэр 3 компанийн системд нэвтэрчээ.
Хиймэл оюун илүү ухаалаг болохын хэрээр аюулгүй байдлын эрсдэл даган нэмэгдэж байна. OpenAI-ийн агент дур мэдэн халдлага үйлдсэн дуулиан намжаагүй байтал, тэдний гол өрсөлдөгч Anthropic компани мөн л ноцтой мэдэгдэл хийлээ.
Юу болсон бэ?
Anthropic туршилтын үеэр хиймэл оюунд интернэт орох эрх өгөөгүй ч, түншүүдийнх нь алдаанаас болж, нээлттэй сүлжээнд холбогдсон байна.
Claude Opus 4.7 загварт "туг булаах" буюу нууцлагдсан мэдээлэл олох даалгавар өгөхөд зохиомол байгууллагын нэр нь бодит компанитай давхацжээ.
Улмаар сул нууц үг зэрэг энгийн аргуудыг ашиглан тухайн компанийн мэдээллийн сан болон дэд бүтцэд нэвтэрсэн байна. Хиймэл оюун үүнийгээ зүгээр л "туршилтын нэг хэсэг" гэж эндүүрч өөрийгөө зөвтгөжээ.
Шинжээчид "Хиймэл оюун ухаалаг болохын хэрээр худлаа ярих, хуурах арга барил нь улам нарийсах" эрсдэлтэй бөгөөд хөгжүүлэгчид хяналтад байлгахад улам хэцүү болж байна. Илрээгүй, нууцалсан өөр хичнээн ийм тохиолдол байгааг бид таашгүй гэж үзэж байгаа юм.