오픈AI, AI 장기리스크 대비 안전팀 해체 경영진 갈등 후폭풍?

Sam Altman, CEO of OpenAI, attends the Asia-Pacific Economic Cooperation (APEC) CEO Summit in San Francisco, California, U.S. November 16, 2023. REUTERS/Carlos Barria
Sam Altman, CEO of OpenAI, attends the Asia-Pacific Economic Cooperation (APEC) CEO Summit in San Francisco, California, U.S. November 16, 2023. REUTERS/Carlos Barria

팀 이끈 수츠케버·레이케 회사 떠나…”회사 우선순위 의견 달라”

챗GPT 개발사 오픈AI가 인공지능(AI)의 장기적인 위험에 대해 연구하는 안전(safety)팀을 사실상 해체했다고 블룸버그 통신 등이 17일(현지시간) 소식통을 인용해 보도했다.

소식통은 오픈AI의 슈퍼얼라이먼트(superalignment) 팀 일부가 다른 팀으로 재배치되고 있다고 전했다.

이 팀은 미래 다가올 초지능 AI를 제어함으로써 인간에게 유용하고 해롭지 않은 방식으로 행동하도록 연구하는 안전팀이다.

작년 7월 설치된 이 팀은 “우리보다 훨씬 더 똑똑한 AI 시스템을 조종하고 제어하기 위한 과학적이고 기술적인 연구에 초점을 맞추고 있다”고 밝힌 바 있다.

특히, 이 팀의 해체는 오픈AI의 공동 창립자 일리야 수츠케버 등 팀을 이끈 인력이 잇따라 회사를 떠난 지 며칠 만에 나왔다.

오픈AI의 수석과학자로 일해 온 수츠케버는 지난 14일 “오픈AI를 떠나기로 결정했다”고 밝혔다. 수츠케버는 지난해 11월 올트먼 축축 사태를 주도한 바 있다.

수츠케버에 이어 또다른 임원인 얀 레이케도 회사를 떠났다. 수츠케버와 레이케는 슈퍼얼라이먼트 팀을 이끌어왔다.

이들이 연이어 사임하면서 올트먼 등 다른 경영진과 갈등에 따른 것이라는 관측이 제기되기도 했다.

수츠케버는 지난해 올트먼 축출 당시 AI의 위험성에 대해 충분한 주의를 기울이지 않은 채 오픈AI의 사업을 구축하는 데만 집중한다고 우려했던 것으로 전해졌다.

그는 회사를 떠나면서 “나는 오픈AI가 올트먼 등의 리더십 아래 안전하고 유익한 AIG(범용 인공지능)를 구축할 것으로 확신한다”고 밝혔다.

레이케는 “나는 오픈AI가 이 연구(초정렬)를 하기 가장 좋은 장소가 될 것으로 생각했었다”며 “그러나 오랫동안 회사의 핵심 우선순위에 대해 경영진과 의견이 달랐다”고 토로했다.

이어 “인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력”이라며 “오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다”고 지적했다.

이들 외에 앞서 다른 팀원들도 회사를 떠난 것으로 전해졌다.

이에 대해 오픈AI는 “우리는 이 팀을 독립체로 유지하기보다 안전이라는 목표를 달성하도록 돕기 위해 연구 전반에 걸쳐 통합하고 있다”고 설명했다.

또 오픈AI 공동 창업자 중 한 명인 존 슐먼이 AI 정렬 연구(사람이 의도한 목표와 윤리적 원칙에 맞게 AI 시스템을 조정)를 위한 리더가 될 것이라고 덧붙였다.

0
0

TOP 10 NEWS TODAY

오늘 가장 많이 본 뉴스

LATEST TODAY NEWS

오늘의 최신 뉴스

Leave a Reply

Your email address will not be published. Required fields are marked *

시니어 생활

오피니언 Hot Poll

청취자가 참여하는 뉴스, 당신의 선택은?

최신 뉴스

윤석열 대통령, 지지자 사망에 “정중한 위로…뜻 잘 받들겠다”

빈소 방문한 참모진 통해 애도 전달 윤석열 대통령은 20일 자신을 지지하는 내용의 유인물을 뿌리고 분신을 시도하다가 숨진 한 지지자의 유족에게 ...

김수현측, 가세연·김새론 유족 고발…”사진 공개로 수치심 유발”

김수현 소속사 골드메달리스트가 유튜브 채널 가로세로연구소(이하 '가세연') 운영자와 배우 고(故) 김새론 유족 등을 고발했다. 골드메달리스트의 고발대리인인 법무법인(유한) 엘케이비앤파트너스는 20일 입장문을 ...

[속보]LA 정부 돈, 수백만 달러가 갱단 지도자에게 유입..

엘에이 정부돈이 갱단으로 흘러들어가다니.. 로스앤젤레스 정부가 지원한 수백만 달러의 자금이 유명 갱단 지도자의 비영리 단체를 통해 범죄 조직으로 흘러들어간 것으로 ...

UC..DEI 정책 폐지 수순 들어가

연방 자금 중단 경고후 UC 다양성 성명서 제출 관행 폐지 USC도 DEI 사무실 폐지 UC 계열 대학 지도부가 트럼프 행정부의 ...

인도계인 조지 타운대 포닥 연구원 ICE에 체포돼

하마스 선전과 반 유대주의 조장 혐의로 인도계 학생 비자 소지자 체포 아내는 팔레스타인계 미국인 팔레스타인계 미국인과 결혼한 조지타운 대학 포닥 ...

OC 커플 미국 생활 35년만에 추방

오렌지 카운티에 거주해온 커플이 이번 주 초 콜롬비아로 추방됐습니다. 넬슨 곤잘레스씨와 글래디스 곤잘레스 부부는 약 35년 전 샌이시드로 국경지대를 통해 ...

샌디에고 보레고 스프링스 인근에서 지진 발생

오늘(20일) 새벽, 샌디에고 카운티 보레고 스프링스 인근에서 규모 3.7의 지진이 발생했습니다. 이어서 같은 지역에서 규모 3.1의 여진이 뒤따랐습니다. 첫 번째 ...

100년 전통의 ‘퍼시픽 다이닝 카’ 식당서 화재

엘에이 한인 타운 동쪽에 위치한 100년 전통의 '퍼시픽 다이닝 카' 식당에서 오늘 (20일) 아침 화재가 발생해 소방관들이 진화 작업을 벌였습니다 ...

몸보다 글이 ‘섹시’했던 KW Lee 대기자

신문기자들의 금과옥조가 하나 있다. 새내기 때 귀에 못이 박히게 훈계를 들었다. 누구나 아는 ‘5W-1H’ 따위가 아니다. “기사를 간결하게 쓰라”는 것이다 ...

LA 웨스트레이크 지역 방화의심 화재 발생, 이전에도 화재 피해 입은 건물

로스앤젤레스 웨스트레이크 지역의 1310 W 6번가에 위치한 두 층짜리 건물에서 또다시 화재가 발생했다. 현장에 출동한 소방대원들은 1층과 2층에서 강한 연기가 ...

이재명의 ‘몸조심하라’는 섬뜩한 말 

영화 ‘달콤한 인생’에서 선우(이병헌 분)는 보스 강 사장(김영철 분)으로부터 자신의 젊은 애인에게 다른 남자가 생긴 것 같다며 감시할 것을 지시받는다 ...

[속보]LA서 4세 아이 뺑소니 사망, 현상금 5만 달러..

LAPD, 수배자는 30대 여성 추정 2025년 3월 18일 오후 11시경, 흰색 인피니티 FX35 차량이 크렌쇼 불바드(Rodeo Place) 근처에서 북쪽으로 고속 ...

3월  20일 라디오서울 모닝뉴스 헤드라인

• LA시 재정 위기로 공무원 감원이 불가피하다고 시예산 책임자가 밝혔습니다. • 영김 하원의원 사무실 앞에서 메디칼 삭감에 반대하는 시위가 열렸습니다 ...

테슬라 반대 시위, 3월 29일 전세계 최대 규모로 확대될 전망

높아만 가는 안티 테슬라 시위.. 전 세계적으로 테슬라 반대 시위가 확산되고 있는 가운데, 주최 측은 오는 3월 29일 역대 최대 ...

한국산 식품 잇단 노로바이러스, 리스테리아 검출 ‘비상’

냉동굴 ‘노로바이러스’  팽이버섯 ‘리스테리아’ 보건 당국 리콜 조치 한국에서 수입돼 판매돼 온 일부 식품들에서 잇따라 식중독균이 검출되면서 미국 내 식품안전 ...

中, ‘맞불관세 갈등’ 속 캐나다인 4명 사형 집행…

캐나다 "감형 요청 안 받아들여져"…中 "마약 범죄 처벌할 책임 있어" '맞불 관세'로 깊어진 중국과 캐나다 간 갈등이 캐나다인 사형 집행 ...

14세 소년 학교 마치고 귀가중 묻지마 폭행..

용의자 30-40 세 흑인.. 샌버나디노 카운티에서 14세 소년이 학교에서 집으로 가는 도중 무참히 폭행을 당해 병원에 입원했습니다. 3월 6일, 샌버나디노 ...

트럼프 대통령 교육부 폐지를 원하는 진짜 이유..

연방 교육부가 특정 정치 성향이나 이념을 과도하게 주입한다고 인식 정치적, 문화적, 사회적 전선을 재구성는 이념 전쟁 진행중.. 트럼프 대통령이 교육부 ...

트럼프 마침내 교육부 폐지 행정명령 서명…상원 통과 가능성 희박

폐지엔 의회 승인 필요…상원서 찬성 60표 필요해 통과 가능성 작아 [관련기사]트럼프 대통령 교육부 폐지를 원하는 진짜 이유.. 연방정부 구조조정에 속도를 ...

트럼프, ‘금리동결’ 연준 또 압박…”내리는 게 훨씬 좋다”

SNS서 "관세가 경제 성과 만드는 중"'상호관세 예정' 다음달 2일에 대해선"美 해방일"···수차례 금리 개입 의지연준 파월 "관세發 인플레는 일시적" 도널드 트럼프 ...

“통영 굴’ 절대 먹지 말라” 美서 판매 중단에 회수 조치까지…무슨 일?

미국식품의약국(FDA)이 경상남도 통영에서 제조한 일부 냉동 굴 제품이 노로바이러스에 오염됐을 가능성이 있다며 판매를 중단하고 회수 조치에 나섰다. FDA는 지난 11일(현지시각) ...

‘음주운전·불법숙박업’ 문다혜 “잘못 깊이 뉘우쳐”… 검찰, 징역 1년 구형

도로교통법 위반(음주운전) 등 혐의다혜씨 혐의 인정하며 반성문 제출 음주 운전과 불법 숙박업 운영 혐의로 재판에 넘겨진 문재인 전 대통령의 딸 ...

 여야 연금개혁 18년 만에 극적 합의… 우원식 “매우 역사적 순간”

여야가 20일 국민연금 개혁안에 극적 합의했다. 우원식 국회의장은 이날 오전 권성동 국민의힘, 박찬대 더불어민주당 원내대표와 회동 직후 "국민 삶에 직접적 ...

트럼프, ‘상호관세’ 4월 2일은 해방일”.. 감당은 할수 있을지?

도널드 트럼프 미국 대통령은 '상호관세' 발표일로 예고한 내달 2일(현지시간)은 "미국 해방일"이 될 것이라며 '관세 전쟁'의 고삐를 늦출 뜻이 없음을 분명히 ...

미군도 구조조정 칼날…”전투사령부 통합·주일미군 확장 중단 검토”

유럽·아프리카사령부, 북부·남부사령부 대상…주한미군도 여파 있을지 주목 펜타곤, 미군 구조조정 본격 착수…미군 나토 최고사령관직 포기 가능성도 연방정부 구조조정을 밀어붙이는 도널드 트럼프 ...

K타운 명소 ‘카페센트’운영하며 캘리포니아 마운틴클럽 이끄는 장기철 신임 회장

H매거진 장기철의 산행일기 스노보드와 스쿠버다이빙 강사 행글라이딩등 다양한 익스트림 스포츠 라이선스를 보유한 특수부대 하사관 출신인 전문가의 이야기... 캘리포니아 마운틴클럽의 장기철회장은 ...

한국 정치, 혐오의 정치가 되다

H매거진 이서희의 시사살롱 한국 정치의 현재 모습은 많은 이들에게 혼란스럽고 때로는 불안감을 안겨준다. 최근 정치적 대립과 갈등은 단순한 의견 차이를 ...

한인 남성, 부친 총격살해 후 자살 ‘충격’

▶ 팔로스버디스 묘지서 92세 아버지 머리에 64세 아들 총격 가해 ▶ 잇단 가족살인 ‘비극’ 60대 한인 남성이 자신의 90대 아버지에게 ...

팬데믹 5년, 달라진 것들

2020년 5월에 우리 가족은 시카고를 여행할 계획이었다. 한국과 미국에 떨어져 살고 있는 자매들이 시카고에서 만나 관광한 후 함께 LA로 돌아와 ...

테슬라 ‘초소형 하우스’ 출시… 가격 7,575달러

테슬라‘타이니 하우스’가 공개되며 시장에 출시됐다. 18일 테슬라에 따르면 완전 자율, 자급자족 스마트 홈인‘테슬라 소형 주택’을 공개하며 7,575달러에 판매한다. 240스퀘어피트 크기의 ...

경제 • IT

칼럼 • 오피니언

국제

한국

LIFESTYLE

K-NOW

K-NEWS

K-BITES