검증된 출처
모든 기사는 가장 강력한 증거와 연결됩니다: 원가 자료가 있을 경우 그렇고, 그 외에는 명확히 출처가 명확히 기재된 보도입니다.
평범한 영어
무슨 일이 일어났는지, 왜 중요한지, 무엇을 보아야 하는지 등을 전문 용어 없이 설명합니다.
채우기 없는 이야기
신호가 얇을 때는 피드를 채우기보다는 아무것도 발행하지 않습니다.
더 많은 이야기
9 이야기들제품
Votee AI는 홍콩의 공공 서비스 및 비즈니스를 위한 광동어 모델을 구축하고 있습니다.
포춘(Fortune)은 홍콩 스타트업 Votee AI가 주류 AI 시스템의 지역 및 문화 지식 격차를 해소하기 위해 은행, 대학, 정부 부서를 위해 광동어 데이터에 대한 개방형 모델을 재교육하고 있다고 보도했습니다.fortune.com혁신
GRAPE 논문에서는 AI 공격 및 LLM 프롬프트에 대한 더 빠른 쿼리 효율적인 최적화를 보고합니다.
새로운 arXiv 사전 인쇄에서는 2단계 베이지안 최적화 프레임워크인 GRAPE를 소개합니다. 이 프레임워크의 작성자는 적대적 공격 및 대규모 언어 모델 프롬프트 최적화를 포함하여 고차원 블랙박스 작업에 필요한 쿼리 수를 줄여준다고 말합니다.arxiv.org혁신
MoPLEx는 AI 정렬에서 혼합된 인간 선호도를 모델링하는 방법을 제안합니다.
새로운 arXiv 사전 인쇄에서는 주석 작성자가 기본 선호도가 다른 경우 다방향 순위를 통해 학습하기 위한 알고리즘인 MoPLEx를 제안합니다. 저자는 비교 기준에 비해 향상된 클러스터링 및 순위 정확도를 보고합니다.arxiv.org혁신
물리적 불변 입력은 언어 모델의 PDE 발견 정확도를 거의 3배로 높인다고 사전 인쇄에서는 밝혔습니다.
Fan Yang과 Matt Thomson의 arXiv 사전 인쇄에서는 시공간 필드 데이터를 대규모 언어 모델에 제공하기 전에 물리량으로 변환할 것을 제안합니다. 시뮬레이션된 현장 벤치마크에서 저자는 이 해석 단계가 모델 원시 데이터를 표시하는 것에 비해 복구 방정식 정확도가 거의 3배 증가했다고 말합니다.arxiv.org혁신
Preprint에서는 LLM 양자화에 숫자 형식에 맞게 설계된 변환이 필요하다고 주장합니다.
arXiv 사전 인쇄 조사는 대규모 언어 모델을 양자화하기 전에 사용되는 변환 방법을 조사하고 기존 변환 코딩과 그룹화된 공유 규모 양자화 간의 충돌을 식별합니다. 최상의 변환은 배포 형식과 규모 정보 할당 방법에 따라 결정된다고 주장합니다.arxiv.org혁신
연구 결과에 따르면 Attention 아키텍처가 LLM 추론의 에너지 비용을 주도합니다.
새로운 경험적 연구에 따르면 Attention Architecture는 문맥 길이에 따라 언어 모델 추론 에너지가 어떻게 증가하는지에 큰 영향을 미칩니다. 다중 헤드 Attention의 경우 더 가파른 증가, 그룹화된 쿼리 Attention의 경우 더 평평한 증가, 그룹화된 쿼리 Attention의 경우 거의 일정한 에너지를 결합하여 발견합니다.arxiv.org혁신
연구원들은 AI 기반 무선 간섭 억제에 양자화 계층을 추가합니다.
새로운 arXiv 논문에서는 자동 회귀 변환기와 유한 스칼라 양자화 토크나이저를 결합하여 구조화된 무선 주파수 간섭을 억제하는 AI 시스템에 대해 설명합니다. 저자는 기존 및 이전 AI 기반 접근 방식보다 지연 시간이 짧고 간섭 거부가 더 강력하다고 보고했지만...arxiv.org혁신
논문에서는 미세 조정 중 Transformer 모델에 대한 저렴한 가지치기 작업을 제안합니다.
REP-LIE는 LoRA 하위 행렬의 기울기를 사용하여 제거할 Transformer 가중치를 추정하여 모델 가지치기 및 후속 미세 조정에 필요한 리소스를 줄이는 것을 목표로 합니다.arxiv.org혁신
연구를 통해 신경망 대체가 최적화를 개선하는 시기를 식별합니다.
새로운 arXiv 사전 인쇄에서는 신경망 대체물이 제한된 이웃 내에서 후보 선택을 지원하고 기본 수용 메커니즘을 그대로 유지하는 경우에만 최적화에 도움이 된다고 주장합니다.arxiv.org
매주 한 번씩 유용한 브리핑을 듣습니다
피드에 살지 않고도 AI를 따라가세요.
이번 주의 검증된 AI 뉴스, 원본 데이터, 유용한 도구, 학습 추천, 그리고 새로운 AI 일자리를 받아보세요.
AI를 배우는 사람들에게 다가가세요
AI 전문가를 고용하거나 유용한 AI 제품을 출시하는 것? 배우고 행동하기 위해 이곳에 온 사람들 앞에 그것을 보여주세요.
AI 공고를 올리세요AI 도구를 제출하세요