IT 뉴스 - AI Log

NVIDIA 추론 소프트웨어가 토큰 비용을 낮추는 구조

AI 서비스 비용은 칩 성능보다 ‘쓸모 있는 토큰당 비용’으로 결정됩니다. NVIDIA 추론 소프트웨어 스택이 어떻게 비용을 낮추는지 정리했습니다.

WebBrain은 로컬 LLM으로 웹페이지를 읽고 작업을 자동화하는 오픈소스 브라우저 에이전트입니다. 데이터가 PC 밖으로 나가지 않아 보안 부담을 덜어줍니다.

Hugging Face Transformers의 미세 조정을 NVIDIA NeMo AutoModel이 Expert Parallelism 등으로 가속화하여, 대규모 생성형 AI 모델 개발을 더욱 효율적으로 돕는 방법을 알아봅니다.

구글의 대화형 의료 AI 시스템 AMIE가 복잡한 질병 관리에서도 주치의와 유사한 역량을 보여줬다는 연구 결과가 네이처에 발표되었습니다.

OpenAI가 EU 내 직업별 AI 영향 지도를 새로 공개했습니다. 어떤 직군이 자동화되고, 성장하며, 변화하는지 분석한 보고서를 요약하며 AI 도구 실무자에게 던지는 질문을 정리합니다.

Anthropic이 Claude가 사용자 PC 파일을 직접 작업하는 ‘Cowork’를 공개했습니다. 개발자만 쓰던 기능의 장벽을 허물며, 코딩 없이도 AI 에이전트를 활용할 길을 연 것으로 보입니다.

DeepSeek이 V4 모델의 사용자별 응답 속도를 최대 85% 높이는 DSpark 프레임워크를 오픈소스로 공개했습니다. 서버 부하 상태에 따라 검증량을 조절하는 기술이 핵심입니다.

AI 인프라가 급증시키는 전력 수요를 기존 해양 구조물에 파력 발전기를 설치해 해결하려는 Eco Wave Power의 접근을 NVIDIA AI 인프라와 디지털 트윈 관점에서 정리합니다.

GitHub가 캘리포니아 AI 투명성법이 오픈소스 개발에 잠재적 문제를 일으킬 수 있다며 개정을 촉구하는 연합에 합류했습니다. 국제 기준과 오픈소스 라이선스에 맞는 수정이 필요하다는 입장입니다.

GitHub와 유엔개발계획(UNDP)이 가나의 디지털 전환과 개발 목표 달성을 위해 오픈소스 거버넌스 협력에 나섰습니다. 아프리카 서부 지역의 개방형 기술 활용 가능성을 엿볼 수 있습니다.