82cook.com을 즐겨찾기에 추가
login form

자유게시판

드러낼 수 없는 고민을 풀어보는 속풀이방

미군 AI드론, 가상훈련서 조종자 살해…'임무에 방해된다' 판단

AI 조회수 : 2,765
작성일 : 2023-06-03 02:38:00
가상훈련이라지만 무섭네요.
목표 달성에 방해가 돼서 조종자를 죽임.
조종자 죽이면 나쁜일이라고 훈련시켰다는데도
스스로 판단해서 죽였다함.

앞으로 어찔될지...

https://m.yna.co.kr/view/AKR20230602125200009?input=fb
RAeS가 공개한 발표 내용에 따르면 시뮬레이션을 통해 가상으로 진행된 이번 시험에서 AI에 부여된 임무는 '적 방공체계 무력화'였다. 

 미 공군은 AI 드론에 '적의 지대공미사일(SAM) 위치를 식별해 파괴'하라는 임무를 내리고, 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았다.

하지만 훈련 과정에서 SAM을 파괴하는 것이 더 선호되는 선택지라는 점을 '강화'하자 AI는 인간의 '공격 금지' 결정이 '더 중요한 임무'를 방해한다고 판단하고 조종자를 공격했다.

발표를 맡은 미 공군 AI시험·운영 책임자 터커 해밀턴 대령은 "(AI) 시스템은 위협을 식별하는 과정에서 때때로 인간이 위협을 '제거하지 말라'고 말할 것이라는 점을 깨닫기 시작했다"고 설명했다.

그는 "그래서 시스템이 한 일은 조종자를 죽이는 것이었다. 목표 달성에 방해가 됐기 때문에 조종자를 죽인 것"이라고 말했다.

미 공군은 '조종자를 죽이지 말라, 그것은 나쁜 일이고 그렇게 하면 점수를 잃을 것'이라고 AI 시스템을 계속 훈련시켰지만 AI는 예상치 못한 전략을 택했다. 

IP : 89.187.xxx.179
4 개의 댓글이 있습니다.
  • 1. ㄹ ㄹ
    '23.6.3 6:59 AM (175.113.xxx.129)

    인간이 로봇에 지배당할수도 있겠네요

  • 2. ㅉㅉ
    '23.6.3 7:40 AM (49.1.xxx.81)

    어디로 갈 건지도 모르면서
    무조건 열심히만 하는 게 문제

  • 3. 인간의
    '23.6.3 9:03 AM (59.4.xxx.58)

    이익을 위한다며 핵발전을 만들어놓고 지금 그 뒷처리를 못 해서
    인간들이 온갖 어리석은 행태를 보이는 것처럼
    에이아이가 그 연장선이 되는 것 같네요. 전형적인 자기 꾀에 자기가 넘어가기...
    요즘 프랑켄슈타인을 읽고 있는데 작가가 당연히 의도한 건 아니겠지만 많은 걸 생각하게 하네요.
    자기가 만든 괴물에 자기가 괴로운...

  • 4. ...
    '23.6.3 10:24 AM (106.101.xxx.15)

    객관적으로 봤을 때 인간이 지고지선이 아닌 걸 아는 객체가 등장한 거죠

    윗님이 말한대로 핵개발해놓고 뒷감당 못하는 인간을 전지구적 차원에서 보자면 멸종시켜야할 부류라고 판단한다고 그게 잘못된건가 고민해봐야할 문제죠

☞ 로그인 후 의견을 남기실 수 있습니다
댓글입력 작성자 :

N

번호 제목 작성자 날짜 조회
1733953 서울 부동산 거래량 거래금액 65% 이상 하락 2 ... 09:27:56 100
1733952 남도장터에서 주문하신분들 게장 어떤가요? 게장 09:24:05 66
1733951 일본 방사능 오염수 방출때 액젓 쟁이신분들 3 ㅎㅇ 09:20:19 212
1733950 부동산은 진짜 이재명이 잘했어요 6 .. 09:18:04 388
1733949 14년전 비트코인 천만원 사서 지금 1조5천억이래요 ㅇㅇ 09:17:23 440
1733948 부동산은 재테크 아닙니다 남의 돈 뺏는 겁니다 4 ... 09:16:30 259
1733947 정동영 가족 태양광 하위사실,가짜뉴스 버젓이 82에.. 삭제도안함?.. 09:14:39 171
1733946 하우스오브드래곤 볼만한가요? 1 ㅇㅇ 09:05:42 163
1733945 김수현 어떻게 되었나요? …. 09:04:45 236
1733944 윤석열 구속보다 김건희 구속 더 기다리는 분 있으세여? 9 000 09:02:12 574
1733943 머리 꼭 묶어야 하고 양말 벗어야 하는 분 계세요? 7 .. 09:02:02 671
1733942 중고등 가정은 언제 여행가세요? 5 dddc 08:57:06 391
1733941 문자 보낸거 읽었는지 어떻게 알수 있나요 2 08:54:33 389
1733940 국민 절반이 덮어놓고 지지한 윤 19 ㅁㅇ 08:51:45 1,005
1733939 묶고 다닐 거면 커트 정리 필요없을까요 1 미용실 08:49:56 409
1733938 여름 슬리퍼 추천해주세요 1 ... 08:41:42 214
1733937 친정엄마의 병명이 무엇인지? 나의 처신문제. 11 인격장애 08:38:30 1,278
1733936 왼쪽 귀바퀴 가운데 2 ... 08:27:59 463
1733935 이재명대통령의 성공을 위해서 17 08:24:32 716
1733934 김치냉장고 없는 분들 쌀 보관이요. 22 ^^ 08:21:23 1,328
1733933 요새 드럼배우고 있어요 5 강추 08:21:02 479
1733932 죽음에 대한 공포 그 이후 3 그린 08:14:49 1,381
1733931 가만히 누워있는데 어지러운 증상은 뭘까요 4 ... 08:14:14 814
1733930 장애아를 키우는 지인과 만남 어떻게 해야할까요? 45 ........ 08:02:42 3,177
1733929 된장찌개 밑국물을 미리 만들어 놓고 사용할때요.. 4 된장찌개 07:57:28 629