반응형

2022 44

[RNN] Teacher Forcing 방법. 무엇이고 왜 쓰는지.

CS224N을 보는 중 Teacher Forcing이라는 말이 자주 나와 간략히 알아본다. 방법 : 학습시, 이전 상태의 결과(t-1, y_hat(t-1))를 현재상태(t)에 넣지 않음. 대신 이전 상태의 답지(y_(t-1), 위 그림에선 x(t))를 현재 상태의 input으로 넣어줌. Teacher Forcing 있을때와 없을때 차이 쓰는 이유 : 쓰지 않으면 모델이 불안정함. 쓴 경우 수렴 속도 빨라짐. 이미 검증됨 (CS224N 수업 내용 중) 단점 : open-loop(학습되지 않은 내용을 뜻하는 듯)의 경우 잘 작동하지 않음. 왜냐하면 학습시 사용된 input과 test시 사용되는 input이 다름 - 해결방법 : teacher force 방법과, free running input(예측된 값을 ..

2022/NLP 2022.09.05

[NLP/ CS224n] 자료 다운 받는 법

오늘은 아주 짧은 글로 시작한다. Coursera를 들었지만, 박사과정 추천에 따라 다시 CS224N을 듣고있다. 기본적인 ML / DL내용은 아주 빠르게 하고, 언어 모델에 대한 이야기를 주로 하고 있다. 사이트를 찾던 중 슬라이드를 다운 받을 수 있었다. 일일히 다운받기 귀찮아서 wget으로 다운로드 받는 코드를 여기에 옮겨적는다. 주의할 점은 눈에 보이지 않던 archive파일까지 다운받아지기 때문에 4시간 정도로도 모든 자료를 다운 받을 수 없다. 장점은 예전에 학생들이 제출한 레포트도 볼 수 있다는 정도? wget -r -p -k https://web.stanford.edu/class/cs224n/slides/ 용도에 맞게 쓰시길...

2022/NLP 2022.08.24

[지식 그래프] 지식그래프란 무엇인가?

지식그래프는 무엇인가? 대부분 문서들을 보면 지식그래프가 무엇인지 보다는 이것을 쓰면 왜 좋은가 라는 이야기로 시작한다. CS520 수업에서도 지식그래프가 무엇인지에 대한 정의는 잠깐 나오고 읽어볼 논문으로 몇가지 나오는데, 이중 하나가 지식그래프가 무엇인지 좀더 상세하게 다룬다. 두괄식으로 던져놓고 논문의 설명을 옮겨적어본다 지식그래프의 핵심은 추론이다 A knowledge graph acquires and integrates information into an ontology and applies a reasoner to derive new knowledge. - "Towards a definition of knowledge graphs." 내가 논문을 보며 이해한 지식그래프의 핵심은 추론 능력이다..

[neo4j] Minimum Spanning Tree 사용하기

오늘은 MST(Minimum Spanning Tree) 알고리즘을 neo4j에서 사용하는 법에 대해서 써본다. 굳이 쓰는 이유는 neo4j라이브러리가 업데이트되면서 알고리즘을 쓰는 방법들이 조금씩 달라졌기 때문이다. 그럼 시작해본다. MST? A minimum spanning tree (MST) or minimum weight spanning tree is a subset of the edges of a connected, edge-weighted undirected graph that connects all the vertices together, without any cycles and with the minimum possible total edge weight. 위키피디아엔 위와같이 정의되어 있다..

2022/GraphDB(neo4j) 2022.07.06

[Neo4j / 데이터 불러오기] web csv에서 데이터 불러오기

이전에 다뤘던 주제인지 기억이 나지 않는다. 아무튼 일단 이야기해봐야지 데이터 구조 이해하기 https://github.com/neo4j-graph-analytics/book/tree/master/data GitHub - neo4j-graph-analytics/book Contribute to neo4j-graph-analytics/book development by creating an account on GitHub. github.com 위의 링크로 들어가면 transport-nodes.csv 라는 파일과, transport-relationships.csv 라는 파일이 존재한다. 즉 node와 edge다. 여기서 유의할점은 node를 먼저 만든 후 edge(relation)을 만든다는 것이다. neo..

2022/GraphDB(neo4j) 2022.07.05

[블록체인 / Fullnode] 비트코인 풀노드 구동하기

블록체인을 이해하기 위해 fullnode를 돌려보기로했다. fullnode는 한마디로 blockchain의 모든 거래내역을 담고있는 노드다. 채굴자와는 다른 방식이라고 한다. 어쨋든 블록체인의 거래내역이 개개의 트랜잭션과, 이를 종합한 블록으로 이루어 진다고 한다. 논문을 보면 블록 자체의 사이즈는 얼마 안될거라고 한다. 근데 블록체인에 블록만 저장되는 건지 개개 트랜잭션도 저장되는 건지 궁금했다. 만약 블록만 저장된다면 용량이 굉장히 낮을 것이고, 트랜잭션도 저장된다면 몇백 기가가 되는게 맞는것 같다. 어쩃든 논문을 봐도 좀 잘 모르겠어서 설치해봤다. 전체 내용은 아래 링크에 있고, 이중에 내가 직접 겪은 부분만 여기에 쓴다 https://bitcoin.org/en/full-node#what-is-a-..

2022/블록체인 2022.03.09

[연구실 / 랩미팅] 랩미팅 준비하는 법

https://web.mit.edu/biology/www/undergrad/bump/pdfs/Talk_Tips_BUMP.pdf 1. 미리 준비해라 최소 1주일은 시간을 가져라 연설은 연습을통해 진화하고 발전한다 슬라이드 만들기는 시간이 많이 걸린다 2. 아웃라인으로 시작해라 강연의 1/3 - 1/4를 차지할 소개를 계획해라 수행한 특정 연구에 대한 토론을 계획합니다. 3. 청중을 알아라 그들의 전문성 수준을 인지해라 위에 따라 본인의 연설을 계획해라 청중들이 주제를 잘 알거라고 생각하지 말아라 4. 개괄적으로 소개하라 일반적이고 큰 질문을 언급해라 이것을 본인의 구체적이고 작은 질문들과 연결시켜라 적합한 배경지식을 보여줘라 청중이 알고있다고 가정하지 말아라 5. 연구에대해 토론해라 본인의 구체적인 질문을..

2022/대학원 2022.01.27

[블록체인 / 유동성풀] 유동성풀 이해

블록체인 공부를 하다보면 Defi얘기를 안거쳐 갈 수가 없다. 예전에 수업에서 유동성풀과 관련된 이야기를 해준 것 같지만 잘 이해도 안되고, 눈에 자꾸 걸리적 거려서 이번 기회를 통해 좀더 깊게 이해해보기로 하였다. 핵심요약 부분은 내가 나름대로 이해한 부분이고, 나머지는 개발새발 번역한 부분을 써봤다. Defi를 제대로 써보진 못해서 이해를 잘 못한 사람이 어느정도 코끼리 만지듯이 쓴 글이 아닐까 싶다. 어쨋든 정리를 통해 클레이스왑과 같은 서비스에서 유동성풀 예치와 어떤식으로 보상이 주어지는지 큰 그림은 이해할 수 있었다. 핵심요약 유동성 풀은 Defi에 있어서 핵심 요소임 유동성 풀 이란? 스마트 컨트랙안에 잠겨있는 기금임 유동성 풀을 통한 수익? 유동성 풀에 토큰을 제공한 대가로 풀안에서 일어난 ..

2022/블록체인 2022.01.24

[블록체인 / 데이터 공유] Blockchain: Empowering Secure Data Sharing 챕터 2 요약

Summary What : 이 챕터에서 말하려는 것 블록체인 기초지식 정의 / 종류 / 공통 구성 컴포넌트(5가지 레이어) 종류 : 3가지 - 퍼블릭,프라이빗,컨소시움 컴포넌트 5레이어 데이터 / 네트워크 / 합의 / 인세티브 / 적용(Application) 데이터 : 체인 구조, 데이터 블록, 머클트리, 해시기능, 거래내역(트랜잭션), 비대칭키 네트워크 : P2P, Propagation, Validation 합의 : PoW, PoS, DPoS, Raft 인센티브 : 토큰과 블록체인, 토큰의 발행과 유통, 비트코인, 이더리움 적용 : Script(빗코), Smart contract(이더리움), Chaincode(하이퍼래져 패브릭), DAPP(블록체인 기반 앱) 블록체인 강점 거래의 무결성 : 모든 거래 ..

2022/블록체인 2022.01.10
반응형