20년 넘게 AI의 급속한 발전을 지켜본 노련한 연구자로서 나는 설렘과 우려 사이의 갈림길에 서 있다. AI의 잠재적인 이점은 부인할 수 없지만, 그에 따른 위험도 무시할 수 없습니다.
OpenAI의 ChatGPT와 Apple 등 대기업이 대세에 합류하는 등 인공지능(AI)의 발전은 눈부시다. AI 붐이 일어나고 있는 것 같습니다. 그러나 수많은 스파이더맨 영화에서 강조된 메시지인 “큰 힘에는 큰 책임이 따른다”는 점을 기억하는 것이 중요합니다.
전 세계적으로 인공 지능의 사용이 증가하면 모든 사람들에게 상당한 위험이 발생할 것으로 예상됩니다. 이에 엘론 머스크(Elon Musk), 비탈릭 부테린(Vitalik Buterin) 등 유력 인사들은 이러한 글로벌 위험을 완화하기 위해 AI 규제의 필요성을 적극적으로 주장해 왔다. X.AI Corp.이라는 AI 회사를 이끄는 머스크는 이 기술 개발을 지원하는 동시에 업계 감독을 옹호합니다.
AI 규제의 필요성
캘리포니아는 인공 지능과 관련된 잠재적 위험을 해결하기 위한 법안 SB 1047을 제안했습니다. 이 법안이 제정되면 1억 달러 이상을 투자한 AI 모델 개발자에게 더 큰 책임을 부과하여 배포 전 모델의 안전성 테스트를 포함하여 특정 안전 프로토콜을 준수하도록 요구할 수 있습니다.
어려운 결정이고 논란을 불러일으킬 수 있지만 모든 요인을 고려할 때 캘리포니아가 SB 1047 AI 안전 법안을 제정하는 것이 적절하다고 생각합니다. 저는 20년 넘게 위험을 초래할 수 있는 모든 제품이나 기술을 규제하는 방식과 마찬가지로 AI 제어를 옹호해 왔습니다.
— Elon Musk(@elonmusk) 2024년 8월 26일
최근 이 사건에 대해 Tesla의 CEO인 Elon Musk는 트위터를 통해 캘리포니아주에 SB 1047 법안을 통과시킬 것을 촉구했습니다. 머스크는 자신의 입장이 다소 거슬릴 수 있음을 인정하면서도 20년 넘게 AI 규제의 필요성에 대해 목소리를 높여왔습니다. 기술계의 저명한 인물인 그는 잠재적인 위험을 완화하기 위해 업계가 다른 기술 관련 부문과 유사한 규제에 직면해야 한다고 믿습니다.
비탈릭 부테린의 우려
Elon Musk의 트윗에 대한 응답으로 Ethereum 창립자 Vitalik Buterin은 AI 부문 규제의 중요성에 대해 논의했습니다. 그러나 그는 제안된 규정의 실효성에 대해서는 의구심을 표명했습니다. 부테린은 SB 1047 법안이 추가 개발을 위한 오픈 소스 및 사전 훈련된 모델을 목표로 하는 데 사용될 것인지 고민했습니다.
법안의 목적을 가리키는 가장 강력한 징후는 공개 가중치와 충돌하는 이전 요구사항인 것 같지만 현재 이 요구사항은 제거되었습니다. 또한, 특정 AI 안전 전문가들은…
— Vitalik.eth(@VitalikButerin) 2024년 8월 27일
이더리움 창시자는 법안에서 “중요한 피해” 조항을 지지합니다. 그는 SB 1047을 안전 테스트 프로토콜을 확립하려는 시도로 해석합니다. 본질적으로 이는 개발자나 회사가 모델 내에서 잠재적인 글로벌 규모의 위험이나 유해한 동작을 발견하면 모델 배포가 금지된다는 것을 의미합니다.
- INJ 가격 예측. INJ 암호화폐
- MEW 가격 예측. MEW 암호화폐
- ARB 가격 예측. ARB 암호화폐
- BOME 가격 예측. BOME 암호화폐
- APU 가격 예측. APU 암호화폐
- USD UAH 가격 예측
- LTC 가격 예측. LTC 암호화폐
- IOST 가격 예측. IOST 암호화폐
- RSC 가격 예측. RSC 암호화폐
- 7월 17일 SHIB 가격 예측
2024-08-27 15:27