Strata 개발진은 그래픽카드와 RAM을 함께 써서 125B 규모 AI 모델을 일반 PC에서 실행할 수 있다고 해요.
큰 AI 모델을 내 PC에서 돌리고 싶었던 분들께 흥미로운 프로젝트예요. 오픈소스 도구 Strata는 그래픽카드에 자주 쓰는 모델 부분을 두고, 나머지는 RAM과 CPU가 맡는 방식으로 Qwen3.8-Flash-Next 125B를 실행한대요. 프로젝트 설명에 따르면 대화와 코드 작성, 이미지 읽기를 로컬에서 처리할 수 있어요.
속도는 PC 구성과 모델 압축 정도에 따라 달라져요. 개발진이 공개한 측정에서는 RTX 5070·RAM 64GB PC가 Q2_0 설정으로 답변을 초당 94토큰 생성했어요. 토큰은 AI가 글을 세는 단위예요. 같은 설정에서 3만 2천 토큰 길이의 입력을 읽는 속도는 초당 2,650토큰이었다고 해요. 이 수치는 개발진 측정값이라 다른 PC에서도 그대로 나온다고 볼 수는 없어요.
설치 전에는 그래픽카드 메모리 12GB 이상, 시스템 RAM 32GB 이상, 빈 저장 공간 약 80GB가 있는지 확인하세요. RAM 32GB라면 설치 프로그램이 코드 작업용 Coder 모델을 권하는데, 프로젝트 설명에는 이 버전이 한국어를 포함한 CJK 언어에서 더 약하다고 나와 있어요. 앱을 연결할 때는 로컬 주소를 OpenAI 호환 API 주소로 설정할 수 있어요.
※ 지금 무료 오픈소스로 공개돼 있어요. Windows·Linux에서 쓸 수 있지만, 지원 그래픽카드와 메모리부터 확인하세요.
이름은 Super Intelligence Force예요. 트럼프 대통령은 이 조직이 연방정부의 AI 관련 노력을 조정한다고 밝혔어요. 미국 정부의 AI 정책을 살피는 개발자라면 새 조직이 어떤 계획을 내놓는지 지켜볼 만해요.
보도에 따르면 국가정보국장 제이 클레이턴이 조직을 이끌고, AI의 위험과 기회를 다루는 보고서를 120일 안에 마련할 예정이래요. 보도된 조직 문서에는 AI를 활용한 위협에 대응하면서 과도한 규제는 피하겠다는 방향도 담겼다고 해요. 아직 발표 단계라 구체적인 규칙이나 개발자에게 적용될 변경 사항이 나온 건 아니에요.
※ 지금은 출범 발표 단계예요. 120일은 보도된 보고서 작성 기한이지 새 규칙의 시행일은 아니에요.
구글은 유효하지 않은 AI 자동 제보가 급증했다며 오픈소스 취약점 보상 프로그램을 멈췄어요.
AI로 취약점 제보서를 대량 생성하는 일이 보안 담당자의 검증 부담으로 이어졌어요. 구글은 자동 제출된 제보가 크게 늘었고, 그중 대다수가 유효하지 않다며 오픈소스 취약점 보상 프로그램을 10월 1일부터 일시 중단했다고 밝혔어요. 버그바운티는 취약점을 찾아 제보한 사람에게 보상하는 프로그램이에요.
이번 중단은 구글의 오픈소스 프로그램에 해당해요. 구글은 2027년 1분기에 관련 소식을 다시 알리겠다고 했고, 그동안 참가자에게 다른 취약점 보상 프로그램을 살펴보라고 안내했어요. AI 도구로 문제를 찾았다면 제보 전에 직접 재현하고, 재현 절차와 근거를 함께 정리하는 게 좋겠어요.
※ 오픈소스 프로그램은 현재 중단됐어요. 2027년 1분기 안내가 재개 확정을 뜻하는 건 아니에요.
모델 가중치를 바꾸지 않고 에이전트의 실행 환경을 개선하는 방법을 실험한 논문이 나왔어요.
에이전트의 ‘하네스’는 AI가 일을 할 때 쓰는 지침·도구·검증 절차 같은 실행 환경이에요. 이 연구에서는 다른 AI의 실행 결과를 살펴보고 하네스를 더 잘 구성하는 방법을 학습했어요. 개발자라면 모델을 다시 학습시키기 전에 작업 환경부터 손볼 수 있는지 생각해 볼 만해요.
논문 저자들에 따르면, 학습한 방법을 모두 썼을 때 두 평가 과제의 평균 성능이 8.95%포인트 올랐어요. 비교 대상은 학습한 방법 없이 하네스를 만든 경우예요. 다만 X 게시물에 나온 ‘CMU의 4B 모델이 35B 교사를 앞섰다’는 내용은 함께 제시된 논문에서 확인되지 않아 별개 주장으로 봐야 해요.
※ 논문과 일부 코드는 공개됐어요. 전체 실험 구성은 빠져 있고, 코드 실행에는 API 접근 권한이 필요해요.
제품 출시 때 안전성 보고서 작성을 이끌던 OpenAI 책임자가 회사를 떠나며 안전보다 출시 속도가 앞선다고 비판했어요.
데이비드 로빈슨은 OpenAI의 제품 안전성 보고서 작성을 이끌던 사람이에요. 그는 사임 글에서 회사가 다음 제품을 빠르게 내놓는 사이 필요한 만큼 신중하게 검토하지 못하고 있다고 주장했어요. AI 제품을 만드는 개발자라면 출시 일정뿐 아니라 검토 과정도 어떻게 운영되는지 생각하게 하는 이야기예요.
로빈슨은 규칙을 추가하는 데 그치지 말고 조직 문화를 바꿔야 한다고 했어요. 원자력·항공 분야의 안전 경험을 참고하고, 사람의 감독 없이 움직이는 AI 프로그램을 통제할 방법도 연구하자고 제안했어요. OpenAI는 현재의 위험에 대응할 안전·보안 절차를 강화하고 있으며, 필요하면 훈련이나 출시를 멈춘다고 밝혔어요.
코딩 도구에 영상 작업을 맡길 때 소재 확인부터 결과 검증까지 묶어 주는 ffmpeg-skill이 소개됐어요.
X 게시물에 따르면 ffmpeg-skill은 Claude Code, Cursor, Codex에서 FFmpeg 영상 작업을 돕는 도구예요. FFmpeg은 영상과 소리를 자르거나 변환할 때 쓰는 프로그램이에요. 게시물은 이 도구가 작업 전에 파일 정보를 확인하고, 처리한 뒤 결과를 자동 검증한다고 설명해요. 영상 자르기·이어 붙이기·자막 넣기 등 42개 도구를 제공하며, 계정이나 API 키 없이 로컬에서 실행할 수 있다고 해요. 설치 명령은 `npx ffmpeg-skill`이라고 안내했어요.
※ 게시물에 따르면 지금 설치해 쓸 수 있어요. 기능과 검증 방식은 게시물의 설명을 바탕으로 전해요.
