글또 마무리 # 시작은 조금 망설이며 # 2주에 한 번씩 글을 쓰는 글또 모임이 어느덧 끝을 향해 갑니다. 작년 하반기부터 올해 3월까지, 짧지 않았던 여정을 마무리하며 조용히 돌아보는 시간을 가져봅니다. 사실 처음에는 망설임이 컸습니다. 정신없는 시기였고, 사소한 일조차 감당하기 버거운 때였기에 정기적으로 글을 쓴다 는 게 부담스럽게 느껴졌습니다. 그래서 초반에 패스를 빠르게 써버리기도 했고요. 하지만 막상 한 편, 두 편 쓰다 보니 어느새 흐름이 생기고, 기억과 생각이 글 속에 차곡차곡 쌓이기 시작했습니다. ...
Isolation Forest와 관련해서 재탐구 2 # Isolation Forest 와 Anomaly detection에 대해 사회적 현상과 관련해서 생각하고 있는 내용을 정리했습니다. anomalies는 정상 데이터보다 Binary Search로 접근할 경우 path Length 가 적다 라고 가설을 세우고 그걸 증명한 논문의 아이디어가 너무 신기했고, 계속 생각하게 됩니다. 여기에서 더 나아갈 수 있는 부분이 있는지. 좀더 anomalies를 적은 복잡도로 탐지할 수 있는 방법이 있을 지 등도요. Anomalies & IQ # 정상 범주를 넘어 있는 것들에 대한 관심이 있습니다. ...
Isolation Forest 관련 논문을 읽고 알고리즘을 파악해보려고 합니다. 1 Isolation Forest Intro # “Anomalies are data patterns that have different data characteristics from normal instances” (Liu et al., 2008) 이상치는 정상 instances 와 다른 데이터 특성을 가진 데이터 패턴이다 라고 제시하고 있고, 이상 탐지는 데이터에서 평소와 다른 비정상적인 패턴을 찾는 과정이라고 정의를 해 볼 수 있습니다. 기존의 이상 탐지 방법들은 정상적인 데이터의 패턴을 먼저 학습하고, 이를 벗어나는 데이터를 이상치로 간주하는 방식을 사용했습니다. ...
1 Anomaly Detection Intro # 요즘 관심 있는 주제라서 anomaly detection과 deep learning review와 관련한 논문을 읽고 리뷰하려고 합니다. 1960년대부터 anomaly detection은 많은 연구가 이루어진 영역입니다. 여러 분야에서 다양한 용어들을 사용해서 그렇지만 이상치를 탐지하는 건 주요 주제 중 하나입니다. 예를 들어, intrusion detection라는 용어는 computer security 분야에서 안전 룰를 위반한 경우를 자동적으로 탐지하는 것을 뜻하기도 했습니다.(Anderson, 1980,Lunt, 1990,Heberlein, Dias, Levitt, Mukherjee, Wood & Wolber, 1990, Lane & Brodley, 1997) ...
Quantum Computing Intro # 양자 컴퓨팅이 최근 화두로 떠오르고 있어서 공부를 시작해 보았습니다. 아직 깊이 이해한 것은 아니지만 (사실 모름), 배운 내용을 정리하며 개념을 확립하려는 목적으로 작성했습니다. 특히 암호학과 양자 컴퓨팅의 접점에 관심이 있어, 이 기술이 현재의 인공지능과 암호화 기술에 어떤 변화를 가져올지 알아보고 싶었습니다. (그리고 10번째 포스팅. 1과 0이 동시에 있으니 양자 알고리즘과 관련해서 글을 쓰고 싶었던 이상한 이유도 있습니다.) Quantum Computing # 우선, 양자 컴퓨팅을 고전 컴퓨팅과 비교해보겠습니다. ...
태풍을 부르는 영광의 2024년도 로드(load) # 2024년이 어느새 끝나갑니다. 올해는 다이나믹하고 배울 점이 많았던 한 해였습니다. 지나온 시간들을 돌아보며 감상과 기억을 정리해봅니다. 초반 # 2024년도 초반에는 유난히 고단했던 때였습니다. 초반에는 내부 갈등이 너무 많았고, 그만큼 윗분들과의 회의에서 신경질을 부리고, 화를 내고, 설득하고, 짜증을 내고, 무시하고, 때로는 울기도 하며 온갖 방식을 시도해 보았습니다. 그 과정에서 무기력함에 빠지기도 했죠. 회의 중 말도 안 되는 이야기를 들으며 화가 치밀었고, 큰 소리를 낸 적도 있었습니다. ...
Ontology란 # Ontology의 철학적 정의 “Ontology"는 그리스어 “on(being)” 과 “logos”(study연구, discourse담론) 에서 유래. 온톨로지는 being(존재), existence(실재), reality(현실)의 본질에 대해 연구하는 철학의 한 분야. metaphysics 의 핵심 영역이며, 존재(exist) 하는 것들의 가장 기본적인 범주와 관계에 대해서 연구하는 것. 아리스토텔레스는 존재 자체(being qua being)를 연구하는 학문이라고 보았고, 그 이후에 온톨로지를 General metaphysics, Special metaphysics로 구분하거나, formal ontology 혹은 regional ontology로 구분하려는 시도도 있음. 온톨로지와 관련해서는 다음의 질문을 던짐. 존재의 본질은 무엇인지, 있다면 어떤 종류로 구분될 수 있는지. ...
Intro # 가장 반짝이는 것… 어쩌면 AI 와 연관이 깊을 수도 있을 것 같아서 들은 내용을 정리하였습니다. Google Research # 최근 AI연구자를 대상으로 Google Research 교류행사가 있어 참여하게 되었습니다. 총 4가지 주제를 다루었는데, NotebookLM, Med-Gemini, Project Astra, Connectomics 였습니다. NotebookLM은 https://notebooklm.google.com/ 여기에서 현재 베타버전으로 운영되고 있는데, 학습에 쓰이지 않는 모델이라고 합니다. 문서나 연구 자료를 대상으로 자동 요약하는 기능을 제공하고 있어서, 학습자용도로 만들었다는 느낌이 강했습니다. 구글은 몇 백개 서비스를 베타로 출시하고, 또다시 몇 백개 서비스가 금방 사라져버리기 때문에 호다닥 사용할 수 있으면 좋을 것 같습니다. ...
Overview # LLM Application 을 구축하기 위한 오픈 소스 개발자 프레임 워크와 관련해서 Langchain CEO인 Harrison Chase가 https://www.deeplearning.ai/short-courses/ 에서 발표한 내용입니다. LangChain은 대규모 언어 모델(Large Language Model, LLM) 기반 애플리케이션을 구축하기 위한 오픈 소스 도구입니다. Langchain 관련 관심이 있다면 해당 short course를 들어보시길 권장드립니다. 해당 수업을 들으면서 간략하게 정리했던 내용 공유합니다. LangChain 프레임워크의 다양한 구성 요소들은 다음과 같습니다: # Prompts: 프롬프트 템플릿, 출력 파서, 재시도/수정 로직, 예시 선택기 등을 포함합니다. ...
MetaCognition이란 # “Cogito ergo sum,” 이 말은 데카르트가 주장한 “나는 생각한다 고로 나는 존재한다” 라는 의미를 지닌 구절이다. 스스로의 생각과 행동에 대해서 숙고하는 능력은 인간을 다른 종과 구별할 수 있게 해주는 뚜렷한 특징 중 하나이다. 인간으로서 우리는 무엇을 지각하고 있는지를 알고, 무엇을 배우고, 그것을 위해 무엇이 필요한지 판단하고 미래 행동의 결과를 예측할 수 있다. 더욱이 상상과 현실을 구별하고 스스로의 반응을 평가하고 미래에 대한 계획을 세울 수 있다. 즉, 이러한 능력들이 바로 인간이 가진 상위 인지 능력들이다. ...