82cook.com을 즐겨찾기에 추가
login form

자유게시판

드러낼 수 없는 고민을 풀어보는 속풀이방

미군 AI드론, 가상훈련서 조종자 살해…'임무에 방해된다' 판단

AI 조회수 : 2,757
작성일 : 2023-06-03 02:38:00
가상훈련이라지만 무섭네요.
목표 달성에 방해가 돼서 조종자를 죽임.
조종자 죽이면 나쁜일이라고 훈련시켰다는데도
스스로 판단해서 죽였다함.

앞으로 어찔될지...

https://m.yna.co.kr/view/AKR20230602125200009?input=fb
RAeS가 공개한 발표 내용에 따르면 시뮬레이션을 통해 가상으로 진행된 이번 시험에서 AI에 부여된 임무는 '적 방공체계 무력화'였다. 

 미 공군은 AI 드론에 '적의 지대공미사일(SAM) 위치를 식별해 파괴'하라는 임무를 내리고, 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았다.

하지만 훈련 과정에서 SAM을 파괴하는 것이 더 선호되는 선택지라는 점을 '강화'하자 AI는 인간의 '공격 금지' 결정이 '더 중요한 임무'를 방해한다고 판단하고 조종자를 공격했다.

발표를 맡은 미 공군 AI시험·운영 책임자 터커 해밀턴 대령은 "(AI) 시스템은 위협을 식별하는 과정에서 때때로 인간이 위협을 '제거하지 말라'고 말할 것이라는 점을 깨닫기 시작했다"고 설명했다.

그는 "그래서 시스템이 한 일은 조종자를 죽이는 것이었다. 목표 달성에 방해가 됐기 때문에 조종자를 죽인 것"이라고 말했다.

미 공군은 '조종자를 죽이지 말라, 그것은 나쁜 일이고 그렇게 하면 점수를 잃을 것'이라고 AI 시스템을 계속 훈련시켰지만 AI는 예상치 못한 전략을 택했다. 

IP : 89.187.xxx.179
4 개의 댓글이 있습니다.
  • 1. ㄹ ㄹ
    '23.6.3 6:59 AM (175.113.xxx.129)

    인간이 로봇에 지배당할수도 있겠네요

  • 2. ㅉㅉ
    '23.6.3 7:40 AM (49.1.xxx.81)

    어디로 갈 건지도 모르면서
    무조건 열심히만 하는 게 문제

  • 3. 인간의
    '23.6.3 9:03 AM (59.4.xxx.58)

    이익을 위한다며 핵발전을 만들어놓고 지금 그 뒷처리를 못 해서
    인간들이 온갖 어리석은 행태를 보이는 것처럼
    에이아이가 그 연장선이 되는 것 같네요. 전형적인 자기 꾀에 자기가 넘어가기...
    요즘 프랑켄슈타인을 읽고 있는데 작가가 당연히 의도한 건 아니겠지만 많은 걸 생각하게 하네요.
    자기가 만든 괴물에 자기가 괴로운...

  • 4. ...
    '23.6.3 10:24 AM (106.101.xxx.15)

    객관적으로 봤을 때 인간이 지고지선이 아닌 걸 아는 객체가 등장한 거죠

    윗님이 말한대로 핵개발해놓고 뒷감당 못하는 인간을 전지구적 차원에서 보자면 멸종시켜야할 부류라고 판단한다고 그게 잘못된건가 고민해봐야할 문제죠

☞ 로그인 후 의견을 남기실 수 있습니다
댓글입력 작성자 :

N

번호 제목 작성자 날짜 조회
1714069 속더부룩하고 소화안될때는 , 13:04:13 14
1714068 요즘 새로 대출 받을 경우에 금리 .... 13:04:09 8
1714067 집 앞 편의점 나갈 때 옷을 갈아입으시나요 .. 13:03:33 32
1714066 아들이 삐졌어요 아들 13:03:10 72
1714065 비오는 날은 피부가 촉촉 ,, 13:03:08 20
1714064 갱년기 테스트기 테스트 13:02:44 44
1714063 임대차 갱신계약시 1 조언 13:01:35 40
1714062 시판 고추장 어디꺼 쓰세요? 2 …… 13:01:32 54
1714061 헐. 사법내란 수괴 조희대 사형 개쌍것들 13:01:26 191
1714060 다낭 패키지 여행 환전은 얼마나 가져가야 할까요? 해외여행은처.. 13:00:49 29
1714059 저성장은 차츰 진행중 맞지요? 1 부양책 12:57:30 82
1714058 쇼인가 했지만 진실같은 ㅋㅋㅋ 9 ㅇㅇ 12:53:57 833
1714057 조희대씨 자식들 3 알아봅시다 12:52:09 588
1714056 맛있는 무조림 비법 알려주세요 1 ... 12:52:01 105
1714055 국짐은 모든게 공작 12:51:02 110
1714054 김건희가 선수 김문수로 바꿨나봐요 10 ... 12:47:45 1,186
1714053 이것도 가위눌림인가요? 1 ㅇㅇ 12:45:34 203
1714052 부잣집사모님들은 일 안하시나요? 21 12:44:22 912
1714051 한덕수가 나오면 승산이 있나요? 13 ㅇㅇ 12:41:12 961
1714050 인도 파키스탄 심상치않아요 4 ㄷㄷ 12:38:56 1,200
1714049 국힘당은 해산시켜야겠어여 2 기막히네 12:37:40 340
1714048 인터폰 1 하늘 12:36:12 97
1714047 몸이 불편하신분들 거소투표 신청하세요 2 하늘에 12:33:53 192
1714046 김문수도 내란동조 국무위원 아니에요? 28 ㅂㅂ 12:30:36 858
1714045 세입자 계약만료시 연락두절 2 .. 12:29:11 502