엔브리지와 엔브리지 파이프라인, 부채 교환 제안 발표

META, 유럽 AI 연구 허브 통해 혁신 가속화 META(구 페이스북)의 인공지능 연구소(FAIR)가 파리, 런던, 텔아비브, 취리히 등 유럽 주요 도시의 기술 허브를 중심으로 AI 연구를 선도하고 있습니다. 특히 파리에 FAIR 허브를 설립한 지 8년 만에 META는 세계적인 AI 연구 기관으로 자리매김했으며, 이들 유럽 허브에서 나온 선구적인 연구 성과들이 주목받고 있습니다. Naila Murray FAIR EMEA 총괄은 "FAIR를 설립할 당시 탐색적 연구와 오픈 사이언스를 핵심 가치로 삼았던 것이 가장 중요한 결정 중 하나였다"며, "외부 연구자들과의 긴밀한 협력이 연구 발전을 위한 가장 빠르고 책임감 있는 방법이라는 강력한 가설을 가지고 있다"고 강조했습니다. 그는 또한 "우리는 특히 박사 과정 프로그램을 통해 여러 세대의 AI 연구자들을 양성했으며, 많은 박사 과정 학생들이 이 분야에 중요한 기여를 했다"고 덧붙였습니다. 현재 파리, 런던, 텔아비브, 취리히의 연구팀들은 자기 지도 학습, 강화 학습, 음성 및 오디오 처리, 컴퓨터 비전, 자연어 모델링, 책임감 있는 AI, 기계 학습 이론, 모델 효율성, AR/VR 등 다양한 분야에 집중하고 있습니다. Murray 총괄은 "우리 연구는 야심과 동료애의 독특한 조합으로 추진되며, 팀은 전문성, 직급, 지역, 직무 역할의 경계를 넘어 긴밀하게 협력하여 신속한 연구 발전을 이루고 있다"고 말했습니다. 그는 이어 "AI 연구의 현 시대에는 매일 새로운 연구 돌파구가 나타나고 있으며, 이는 우리 EMEA 팀에서도 마찬가지"라고 덧붙였습니다. 대규모 언어 모델(LLM) 연구의 획기적 발전 올해 초, 파리 연구팀은 최첨단 기반 대규모 언어 모델인 LLaMA(Large Language Model Meta AI)를 개발하고 배포했습니다. LLaMA는 연구자들이 AI의 하위 분야에서 연구를 발전시키는 데 도움을 주기 위해 설계되었습니다. 이 모델은 단어 시퀀스를 입력받아 다음 단어를 예측하는 방식으로 재귀적으로 텍스트를 생성합니다. LLaMA 모델 훈련에는 가장 많은 화자를 보유한 20개 언어의 텍스트가 사용되었으며, 특히 라틴 및 키릴 문자를 사용하는 언어에 초점을 맞췄습니다. LLaMA는 창의적인 텍스트 생성, 수학 정리 풀이, 단백질 구조 예측, 독해력 질문 답변 등 다양한 능력을 갖추고 있습니다. 대규모 언어 모델은 AI가 수십억 명의 사람들에게 대규모로 제공할 수 있는 실질적인 잠재적 이점을 보여주는 가장 명확한 사례 중 하나입니다. 자기 지도 학습 기반 컴퓨터 비전 연구 파리에 기반을 둔 연구팀은 컴퓨터 비전 연구에서도 두 가지 획기적인 성과를 발표했습니다. 지난 4월에는 자기 지도 학습을 활용하여 해당 분야의 표준 접근 방식과 동등하거나 능가하는 결과를 달성한 최초의 컴퓨터 비전 모델 훈련 방법인 DINOv2를 공개했습니다. DINOv2는 특정 목표 없이도 이미지나 비디오에서 객체를 발견하고 분할할 수 있습니다. 예를 들어, DINO는 개가 무엇인지 전혀 학습하지 않았음에도 불구하고 이미지에 개가 포함되어 있음을 이해할 수 있습니다. META는 DINOv2의 기능을 탐색할 수 있는 공개 데모를 공유했습니다. META는 이미 DINOv2를 사용하여 물리적 세계에 대한 이해를 넓히고 있습니다. 최근에는 세계자원연구소(World Resources Institute)와 협력하여 대륙 크기의 지역에 걸쳐 나무 단위로 숲을 매핑하는 데 AI를 활용했습니다. 자기 지도 학습 모델은 북미 지역의 숲 데이터로 훈련되었지만, 평가 결과 다른 지역에서도 잘 일반화되고 정확한 지도를 제공하는 것으로 확인되었습니다. 또한 파리 팀은 북미 동료들과 협력하여 META AI Research의 획기적인 자기 지도 학습 컴퓨터 비전 모델인 SEER(SElf-SupERvised)를 활용한 새로운 연구를 개척했습니다. SEER는 기존 컴퓨터 비전 훈련에 필요한 세심한 데이터 큐레이션 및 레이블링 없이도 무작위 이미지 모음에서 직접 학습하고 이미지 임베딩을 출력합니다. 최신 SEER10B 모델은 더 나은 공정성을 위해 다양한 데이터셋을 활용합니다. 전통적인 컴퓨터 비전 시스템은 주로 미국과 유럽의 부유한 국가의 데이터를 기반으로 훈련되어 다른 사회경제적 특성을 가진 지역의 이미지에서는 잘 작동하지 않는 경우가 많았습니다. SEER는 미국 및 유럽 외 지역을 포함한 전 세계 이미지에서 강력한 결과를 제공하며, 성별, 외모 피부색, 연령 그룹 전반에 걸쳐 공정성 벤치마크 성능을 크게 향상시켰습니다. SEER는 전 세계 이미지에 대한 이해도를 높여 전례 없는 정확도로 이미지를 지역화할 수 있습니다. META는 SEER가 모든 사람에게 잘 작동하는 AI 시스템을 구축하려는 AI 커뮤니티에 중요한 빌딩 블록이 되기를 기대합니다. 3D 모델링의 발전 2022년 8월, 런던과 파리의 연구원들은 오픈 소스 PyTorch3D 라이브러리 내의 모듈식 프레임워크인 Implicitron의 코드를 오픈 소스로 공개했습니다. Implicitron은 신경 암시적 표현(neural implicit representation)이라는 컴퓨터 비전 기술을 사용하며, 이는 많은 양의 학습 데이터 없이도, 그리고 단지 몇 개의 시점만으로도 실제 객체와 가상 객체를 증강 현실에서 완벽하게 결합할 수 있습니다. Implicitron은 임의의 시점에서 객체 또는 장면에 대한 결합된 이미지의 희소 집합을 사용하여 3D 객체 또는 장면의 표현을 학습합니다. 메쉬나 포인트 클라우드와 같은 전통적인 3D 표현과 달리, 이 새로운 접근 방식은 객체를 연속 함수로 표현하여 복잡한 기하학적 형태의 더 정확한 재구성뿐만 아니라 더 높은 색상 재구성 정확도를 가능하게 합니다. 이미지 및 비디오를 위한 생성형 AI 텔아비브 팀은 생성형 AI에 긴밀하게 협력하고 있으며 META의 최신 발전 중 일부를 선도하고 있습니다. 2022년 7월, 텔아비브 연구원들과 전 세계 협력자들은 Make-A-Scene이라는 생성형 AI 연구 모델을 만들었습니다. 이 멀티모달 생성형 AI 방법은 텍스트 설명과 자유 형식 스케치를 통해 사용자가 자신의 비전을 설명하고 시각화할 수 있도록 하여 창의적인 제어권을 사용자에게 부여하며, 하늘을 나는 핫도그나 사막의 마천루와 같은 초현실적인 예술 작품을 만들어냅니다. META는 Make-A-Scene에 이어 텍스트 프롬프트를 짧고 고품질의 독특한 비디오 클립으로 변환할 수 있는 AI 시스템인 Make-A-Video를 개발했습니다. 이 시스템은 이미지에서 비디오를 생성하거나 기존 비디오를 가져와 유사한 새 비디오를 만들 수도 있습니다. 메타버스 및 그 이상 META는 증강 현실 및 가상 현실과 AI 기반 인터페이스가 인간 중심 컴퓨팅의 다음 패러다임 전환을 구성할 것이라고 믿습니다. 다른 EMEA 허브들이 주로 이를 위한 AI 연구에 집중하는 반면, 취리히 팀은 AR 및 VR 발전에 긴밀하게 협력하고 있습니다. 이들은 함께 장치가 우리의 맥락, 선호도, 과거 기록 및 목표를 이해할 수 있는 맥락화된 AI 인터페이스를 개발하고 있습니다. 이는 장치가 도구가 아닌 파트너 역할을 하며, 우리에게 적응하고 우리가 원하는 방식으로 일하도록 돕는 기술로 우리를 둘러싸는 미래 비전을 지원합니다. Murray 총괄은 역사적으로 AI 연구의 다양한 영역들이 상대적으로 고립되어 있었지만, FAIR가 구축한 협업 기반이 다양한 팀을 통합하고 연구를 발전시키는 중요한 촉매제가 되었다고 말했습니다. FAIR EMEA 팀의 총괄로서 그녀는 자신의 직무에서 가장 좋은 점 중 하나는 "관련 연구 관심사 간의 연결을 지적함으로써 연구자 간의 협업을 촉발하는 것"이라고 말했습니다. 그녀는 "최근 몇 달 동안 멀티모달 인식, 언어 이해 및 생성, 강화 학습, 인간-기계 상호 작용의 흥미로운 융합이 있었습니다"라며, "이 융합은 진정으로 발전된 지능형 시스템을 구축하려는 분야의 오랜 꿈에 우리를 더 가깝게 데려가고 있으며, 이는 매우 흥미로운 일입니다"라고 덧붙였습니다.