*적용중인 도장
페이스북은 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데, AI챗봇은 인간도 이해할 수 있는 평이한 수준의 영어(i need the hats and you can havethe rest·나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.
그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시켰더니 인간이 이해할 수 없는 언어(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다. 원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답(i i can i i i everything else)하며 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다.
이에 대해 국내 인공신경망 기술기업 솔트룩스의 신석환 부사장은 “챗봇들의 대화가 종료되지 않고 이어진 것은 이들이 서로 소통하고 있었던 것”이라며 “이는 마치 알파고끼리 바둑 대국을 하면서 서로 기술을 발전시킨 것과 같은 방식”이라고 설명했다.
특히 언어를 다루는 AI는 서로를 자극해서 발전하는 이른바 ‘강화학습’을 하는 경우 인간이 이해하지 못하는 단계로 발전할 가능성도 있다. 언어를 학습하는 AI는 명확하게 승패가 엇갈리는 바둑을 두는 알파고와 달리 향후 어떻게 진화할지 예측이 어렵기 때문이다. AI가 인간의 언어는 의미 전달에 비효율적이라고 판단할 경우, 의미 전달에 가장 효율적이라 여기는 언어를 스스로 개발할 수도 있다는 뜻이다.
반면 이번 챗봇 간 대화를 오류로 보는 시각도 있다. 이경전 경희대 경영학과 교수는 “챗봇이 고도로 발전한 지능체계를 기반으로 한 인간의 언어를 온전히 학습하지 못해 발생한 문제”라고 분석했다. 그는 “현재 개발 중인 챗봇들이 인간 언어의 통사구조를 이해하지 못해 단어를 중심으로 의미를 해석하는 한계를 그대로 드러냈다”고 말했다.
이번에 개발이 일시 중단된 챗봇은 페이스북이 올 6월 공개한 챗봇과 동일한 모델이다. 페이스북은 이 챗봇이 인간을 대신해 사업 협상을 벌이는 등의 비교적 복잡한 업무까지 처리할 수 있게 개발하겠다고 밝힌 바 있다. 당시 페이스북은 챗봇이 자체 언어를 개발하는 등의 문제가 발생하지 않도록 설계했다고 말했다. 하지만 이번에 의도하지 않은 상황이 불거지면서 AI가 어떤 방식으로 진화할지를 두고 논쟁이 이어질 것으로 보인다.
https://news.naver.com/main/read.nhn?mode=LSD&mid=shm&sid1=105&oid=020&aid=0003084323
"님의 댓글"
이 댓글을 신고 하시겠습니까?
제목 | 조회 수 | 날짜 | 글쓴이 |
---|---|---|---|
Hot 이거 무조건 사기겠죠? +9 | 149 | 24.10.2223:19 | lesmi |
Hot 사기당했습니다....도움 주실분 계신가요...막막하네요.. +8 | 69 | 24.10.2420:02 | lesmi |
Hot 2찍 중고 사기 민사로 갑니다. +5 | 63 | 24.10.2412:08 | Mactopia |
69 | 24.10.2420:02 | lesmi | |
40 | 24.10.2418:20 | Mactopia | |
36 | 24.10.2416:38 | 아이브경 | |
23 | 24.10.2416:38 | 아이브경 | |
28 | 24.10.2416:37 | 아이브경 | |
24 | 24.10.2416:37 | 아이브경 | |
22 | 24.10.2416:37 | 아이브경 | |
35 | 24.10.2416:37 | 아이브경 | |
21 | 24.10.2416:37 | 아이브경 | |
18 | 24.10.2416:37 | 아이브경 | |
9 | 24.10.2416:37 | 아이브경 | |
19 | 24.10.2416:37 | 아이브경 | |
20 | 24.10.2416:37 | 아이브경 | |
63 | 24.10.2412:08 | Mactopia | |
65 | 24.10.2322:22 | 잠퉁이 | |
55 | 24.10.2317:43 | Mactopia | |
149 | 24.10.2223:19 | lesmi | |
84 | 24.10.2222:11 | Mactopia | |
74 | 24.10.2221:10 | Mactopia | |
57 | 24.10.2218:06 | Mactopia | |
55 | 24.10.2217:12 | 잠퉁이 | |
40 | 24.10.2209:53 | 아이브경 | |
57 | 24.10.2209:53 | 아이브경 | |
58 | 24.10.2209:53 | 아이브경 | |
54 | 24.10.2209:53 | 아이브경 | |
46 | 24.10.2119:31 | ledassy12 | |
86 | 24.10.2108:13 | 아이브경 | |
64 | 24.10.2108:13 | 아이브경 | |
51 | 24.10.2108:13 | 아이브경 | |
64 | 24.10.2108:13 | 아이브경 | |
146 | 24.10.2108:13 | 아이브경 | |
51 | 24.10.2108:13 | 아이브경 | |
50 | 24.10.2108:13 | 아이브경 | |
48 | 24.10.2108:13 | 아이브경 | |
32 | 24.10.2108:13 | 아이브경 | |
43 | 24.10.2108:13 | 아이브경 | |
21 | 24.10.2108:13 | 아이브경 | |
35 | 24.10.2014:31 | 복스렌치 | |
110 | 24.10.1914:35 | 복스렌치 | |
65 | 24.10.1914:32 | 복스렌치 | |
41 | 24.10.1914:31 | 복스렌치 | |
115 | 24.10.1815:01 | bluesaza | |
85 | 24.10.1810:24 | 아이브경 | |
102 | 24.10.1711:40 | Mactopia | |
89 | 24.10.1710:52 | 아이브경 | |
119 | 24.10.1617:54 | 코끼리코 | |
132 | 24.10.1610:47 | 아이브경 | |
110 | 24.10.1522:56 | Mactopia | |
46 | 24.10.1521:33 | 파란하느을 | |
72 | 24.10.1517:57 | Mactopia | |
106 | 24.10.1511:18 | 아이브경 | |
77 | 24.10.1511:18 | 아이브경 | |
65 | 24.10.1511:18 | 아이브경 | |
65 | 24.10.1511:18 | 아이브경 | |
61 | 24.10.1511:18 | 아이브경 | |
86 | 24.10.1414:51 | Mactopia | |
116 | 24.10.1408:43 | 아이브경 | |
134 | 24.10.1217:08 | 늘심심 | |
68 | 24.10.1213:48 | 복스렌치 | |
85 | 24.10.1213:45 | 복스렌치 | |
144 | 24.10.1122:34 | Mactopia | |
131 | 24.10.1114:21 | Mactopia | |
114 | 24.10.1114:11 | Mactopia | |
97 | 24.10.1109:49 | 아이브경 | |
71 | 24.10.1010:57 | 아이브경 | |
38 | 24.10.1010:41 | PN | |
46 | 24.10.0913:05 | 복스렌치 | |
175 | 24.10.0910:34 | bluesaza | |
147 | 24.10.0817:58 | 웃음사냥 | |
224 | 24.10.0812:38 | bluesaza | |
82 | 24.10.0809:20 | 아이브경 | |
67 | 24.10.0809:20 | 아이브경 | |
94 | 24.10.0809:20 | 아이브경 | |
112 | 24.10.0809:20 | 아이브경 | |
86 | 24.10.0809:20 | 아이브경 | |
67 | 24.10.0809:20 | 아이브경 | |
44 | 24.10.0809:20 | 아이브경 | |
300 | 24.10.0723:18 | Steer | |
74 | 24.10.0711:24 | 아이브경 | |
74 | 24.10.0711:24 | 아이브경 |
#HastalaVista