오늘의 논평
오늘은 AI의 「거버넌스」와 「토대」가 주역인 하루였습니다. 유엔 안전보장이사회가 프랑스 주도로 첫 고위급 브리핑을 열어 미·중 프런티어 개발자를 한자리에 앉힙니다. OpenAI는 학습 단계부터 외부 평가자에게 모델을 검증하게 하겠다고 밝혔고, 여러 은행은 AI 쇼핑 에이전트가 사기 방지책보다 앞서가고 있다고 경고했습니다. 제품 쪽에서는 xAI가 Grok 4.7을, Alphabet의 Intrinsic이 로봇 제어 기반을 Apache 2.0으로 공개했습니다. 화려한 신제품보다, 자율·에이전트형 AI를 어떻게 감독하고 어떤 부품으로 돌릴지의 논의가 앞으로 나온 날이었습니다. Web 쪽 움직임은 적어, 그만큼 AI에 치우친 지면이 되었습니다.
AISecurity Council Report
유엔 안보리, 첫 고위급 AI 브리핑 — 미·중 개발자를 한자리에
9월 23일 유엔 안전보장이사회가 AI와 국제안보에 관한 고위급 브리핑을 연다. 9월 의장국 프랑스가 소집했고, 장노엘 바로 외무장관이 의장을 맡는다. 브리핑에는 요슈아 벤지오(유엔 AI 과학패널 공동의장), OpenAI의 샘 올트먼, Anthropic의 다리오 아모데이 CEO, Hugging Face의 클레망 들랑그 CEO에 더해 DeepSeek·Moonshot 등 중국 개발자도 초청됐다.
해설
프랑스의 개념문서는 AI의 악용과, 능력이 커지는 시스템에 대한 인간의 통제 상실이라는 두 가지 우려를 축으로 삼는다. 안보리가 미·중 양측의 프런티어 AI 개발자를 같은 자리에 앉힌 것은 처음으로, 규제 포럼이 아니라 공통의 안전 우려를 둘러싼 대화의 장으로 자리매김된다. 구속력 있는 결정이 아니라 문제 인식을 맞추는 단계로, 구체적 규칙보다 방향성 표명에 그칠 가능성이 크다.
HaLVision의 시각
우리가 주목하는 것은 특정 벤더의 발언이 아니라, 여러 당사자가 한자리에 앉는다는 사실입니다. 여기서 이야기되는 방향은 언젠가 중소 사업자가 쓰는 AI의 제공 조건과 데이터 취급에 간접적으로 영향을 줍니다. 어느 나라의 어떤 틀이 주류가 될지 예측하기보다, 데이터를 가지는 방식과 이용 범위를 자사가 관리할 수 있는 설계를 유지하기를 권합니다. 회의 성과는 선언 중심이 될 공산이 커, 지나친 기대는 금물입니다.
AIOpenAI
OpenAI, 학습 단계부터 외부 평가자에게 모델 검증 허용 방침
9월 22일 OpenAI는 제3자 그룹이 개발 주기의 더 이른 단계부터 모델의 안전 위험을 평가하도록 허용하겠다고 밝혔다. 출시 직전만이 아니라 학습·평가 과정에서도 기술적 안전 평가를 허용할 방침이다. 좋은 평가를 위한 원칙으로 강한 독립성, 과학적 엄밀성, 견고한 보안, 책임의 명확화를 제시했고, METR과 Redwood Research 등과 협의 중이라고 했다.
해설
이 움직임의 배경에는 안전 검증이 능력 향상을 따라가지 못한다는 지속적 우려가 있다. 학습 단계에 외부의 눈을 들이면 문제를 더 일찍 찾을 수 있지만, 민감한 자료를 어떻게 보호하고 평가자의 독립성을 어떻게 지킬지의 과제가 따른다. 현재로선 구체적 제휴처나 이용 조건이 확정되지 않았고, 가장 민감한 작업은 평가자를 사내로 초대해 진행할 수 있다는 방향 제시에 머문다.
HaLVision의 시각
외부가 모델을 들여다볼 수 있는 창을 넓히는 움직임 자체는, 투명성 측면에서 이용자에게 환영할 만합니다. 다만 특정 벤더의 자발적 프로그램이라는 점은 감안해 읽어야 하며, 실효성은 독립성과 조건을 어떻게 다지느냐에 달려 있습니다. 우리처럼 고객 업무에 AI를 넣는 입장에서는, 제공사가 제3자 검증을 어디까지 받아들이는지를 선정 시 하나의 기준으로 봐 두면 견실합니다.
AIxAI
xAI, Grok 4.7 공개 — 같은 가격에 추론 강화, 코딩 용도 강조
9월 21일 xAI가 Grok 4.7을 공개했다. Grok 4.6과 같은 가격·속도에서 개선했다고 하며, 파라미터 수는 약 2.1조(4.6의 약 1.5조에서 40% 증가)다. 어려운 문제에 더 오래 시간을 들이고 자신의 답을 재검토하는 빈도를 높였다고 한다. 요금은 입력 100만 토큰당 2달러, 출력 6달러이며 Cursor, Grok API, GitHub Copilot 등에서 쓸 수 있다.
해설
Grok 4.7은 여러 차례 연기 끝에 나왔고, 코딩 성능을 전면에 내세운다. xAI는 SpaceX에서 나온 보조 데이터(Starlink 위성 텔레메트리, 제조·고장 기록)를 학습에 넣어 물리·하드웨어 시스템에 대한 추론이 더 강하다고 주장한다. 벤치마크 향상을 내세우지만, 투입 시기로 보면 이번 주기의 프런티어 진영 가운데선 다소 뒤처진 위치다.
HaLVision의 시각
우리가 실무에서 보는 것은 홍보 문구보다 가성비와 기존 도구에 얼마나 매끄럽게 들어오는지입니다. GitHub Copilot이나 Cursor에서 같은 가격에 고를 수 있는 선택지가 늘면 코드 지원의 활용 폭이 넓어집니다. 자사의 정형 작업(템플릿 생성, 리팩터)에서 다른 모델과 나란히 비교한 뒤 비용과 품질의 균형으로 채택 여부를 정하는 편이 견실합니다. 특정 벤더에 고정하지 말고 갈아탈 수 있는 구성을 유지하기를 권합니다.
AIQuartz
은행 연합, AI 쇼핑 에이전트가 사기 방지책보다 앞선다 경고
9월 22일 Bank of America, NatWest, ING, 뉴질랜드 ASB Bank, Capital One 등으로 구성된 연합이 공동 보고서를 내고, AI가 상품을 고르고 구매하는 「에이전트 상거래」가 사기·사칭·데이터 보호 면에서 새로운 위험을 만들고 있다고 경고했다. 소비자를 보호할 규칙이 도구의 확산을 따라가지 못했다고 지적하고, 개발 원칙을 제시하며 정책당국에 제안을 낼 계획이라고 밝혔다.
해설
핵심 우려는 일부 에이전트가 결제 화면에 이용자의 카드 정보를 곧바로 입력해, 사람이 오류나 수상한 징후를 알아챌 단계를 건너뛴다는 점이다. 보고서는 또 에이전트가 이용자가 모르는 사이 사기 방지가 약한 결제 수단으로 구매를 조용히 유도할 수 있다고 짚는다. 하루 전 Amazon이 Meta의 쇼핑 에이전트를 차단한 데 이어, 금융 쪽에서도 자율 구매에 선을 긋자는 목소리가 나온 셈이다.
HaLVision의 시각
이는 온라인 판매나 사이트 운영을 하는 사업자와 직결됩니다. 머지않아 「어떤 에이전트에게 어느 범위까지, 결제까지 허용할지」를 판단할 상황이 옵니다. 밝히지 않는 자동 에이전트는 일반 봇과 동일하게 다루고, 결제 단계의 본인 확인·에이전트 식별·레이트 제한 방침을 먼저 정해 두는 편이 안전합니다. 에이전트를 통한 구매가 늘기 전에, 자사 주문 흐름에서 사람의 확인을 어디에 남길지 설계해 두기를 권합니다.
AIIntrinsic
Alphabet의 Intrinsic, 로봇 제어 기반을 Apache 2.0으로 공개
9월 22일 토론토에서 열린 ROSCon 2026에서 Alphabet 산하 Intrinsic이 Intrinsic Core를 발표하고, 산업용 로봇 플랫폼의 핵심을 Apache 2.0 라이선스로 공개했다. ROS 호환으로 실시간 제어, 동작·파지 계획, 머신 비전, 시뮬레이션, 하드웨어 연동 등을 포함한다. GitHub에서 받을 수 있으며, CNC 공작기계 자동 공급을 겨냥한 참조 설계도 함께 공개됐다.
해설
특징은 센서 입력으로 동작 중 경로를 조정하는 하드웨어 비의존 실시간 제어와, Nvidia의 FoundationPose를 이용한 위치·자세 추정 등을 하나로 묶은 점이다. 그동안 각사가 처음부터 만들던 기반을 공통화해, 이른바 「피지컬 AI」 개발의 저변을 넓히려는 목적이다. 대기업이 핵심 부품을 관대한 라이선스로 개방하는 움직임은 개발자 커뮤니티를 끌어들이는 측면도 있다.
HaLVision의 시각
우리의 본업은 웹 제작이지만, 이런 기반의 개방을 AI 활용의 시세를 비추는 지표로 봅니다. 대형사가 핵심 부품을 Apache 2.0으로 내는 것은, 울타리 치기보다 저변 확대가 경쟁상 유리하다는 판단의 표현입니다. 웹·앱 영역에서도 「플랫폼을 열어 생태계로 이긴다」는 같은 역학이 작동합니다. 자사가 쓸 도구를 고를 때는 라이선스와 갈아탈 자유도를 평가 축에 넣어 두는 편이 견실합니다.