Hoyeon Chang - My funny valentine
in Music on My performances
in Music on My performances
재즈에는 많은 연주 형식이 있지만, 그 중에서도 기타와 피아노의 듀오는 가장 연주하기 까다로운 조합 중 하나라고 생각한다. 재즈 연주에서 피아노와 기타는 서로 차지하는 역할이 상당 부분 겹치기 때문이다. 피아노와 기타는 베이스/컴핑 반주와 솔로 연주가 모두 가능하다는 장점과, 트럼펫 같은 관악기처럼 관통력 있는 음색을 구사하기 어렵다는 한계점을 공유한다. 그렇기 때문에, 두 악기로 듀오 연주를 할 서로가 연주하고 있는 것에 귀 기울여 소통하지 못하면, 리듬 반주가 겹쳐 소리가 지저분해지거나, 멜로디라인이 잘 전달되지 못하고 진행감이 무너지기 정말 쉽다. 그래서인지 재즈 역사 속에서 피아노와 기타의 듀오 음반은 다른 편성에 비해 드물지만, 그 중에서 재즈 역사 전체를 통틀어서 최고의 앨범 중 하나로 거론될 만한 전설적인 명반이 하나 있다. 그 앨범이 바로 빌 에반스와 짐 홀의 듀오 연주가 담긴 Undercurrent로, 1962년에 발매된 이 앨범은 지금까지도 많은 재즈 애호가들에게 꾸준한 사랑을 받고 있다.
in AI on Studying AI
현재는 Paperpile로 논문 리스트를 관리하게 되면서 해당 노션은 더 이상 업데이트하지 않게 되었습니다
최근 AI의 많은 분야에서 공통적인(그리고 당연한) 연구 트렌드가 있는데, 이는 본인이 고안한 방법(아키텍쳐, optimizer, loss design 등)이 특정 데이터셋에서 SOTA를 달성함을 보여주려고 한다는 점이다. 각각의 분야와 데이터셋마다 SOTA를 갱신하기 위한 경쟁은 점점 치열해지고 있으며, 앞으로도 이런 경향은 계속되거나 더욱 심화될 것이라고 생각한다. 하지만, 이러한 경쟁 속에서도 반드시 지켜야 할 것이 있는데, 그것은 바로 데이터의 신뢰성이다. 그런데, 필자는 지금까지 여러 편의 AI 논문을 읽으며, 이 부분에 대해서 의문을 가졌던 경험이 몇 번 있었다. 예를 들어, 어떤 논문에서는 baseline과 자신의 모델을 비교평가할 때 '’해당 분야의 관행에 따라 모델의 top-1 accuracy를 비교한다’‘며 결과를 정리한 표에 confidence interval 표기 없이 top-1 accuracy만을 표기했었다. 이는 심각한 통계적 신뢰성 문제를 안고 있으며, 생명과학 논문을 많이 읽어왔던 필자는 이것이 자연과학 논문이었다면 있을 수 없는 데이터 리포팅이었기 때문에 의아했었다. 이 논문은 이러한 AI 학계의 데이터 신뢰성 문제에 대한 필자의 문제의식을 더욱 확신하게 해준 논문으로, 앞으로의 연구 및 논문 리딩에 대해 많은 생각을 하게 해주었다.
BERT의 발표 이래 최근 연구에서 다뤄지는 대부분의 NLP 모델은, 주로 self-supervised learning을 통해 pre-training된 모델을 가져다 원하는 task에 맞게 fine-tuning하여 사용한다는 공통된 흐름이 있다. Text-to-text의 형태로 모든 입출력을 다루기 때문에 단일 구조로 모든 종류의 NLP task를 수행할 수 있다는 장점을 가진 T5 또한, C4 dataset에 대한 self-supervised span denoising을 통해 pre-training을 한다. 이 논문은 이러한 T5 모델에 대해, pre-training 과정에 다양한 task에 대한 supervised learning을 포함시켜 transfer learning의 성능을 상향시킨 ExT5를 다룬다. 결론부터 이야기하면, ExT5는 pre-training 과정에서 span denoising과 함께 무려 107개의 dataset이 섞인 dataset인 ExMix에 대한(!) supervised learning을 하였고, 그 결과 얻어진 ExT5는 대부분의 NLP task에서 기존의 T5보다 높은 성능을 보였다.
21세기 재즈피아노의 거장 브래드 멜다우의 2004-2014년 간의 라이브 솔로 연주가 담긴 앨범. 브래드 멜다우는 이 앨범에서 락, 재즈 스탠다드, 오리지널 튠 등 다양한 곡들에서 완성도 높은 솔로 연주를 선보이며 듣는 이를 자신의 깊은 음악세계로 인도한다.
in Music on My performances
in Music on My performances