[TIL] 웹크롤링 에러 해결 (Enable Javascript and Cookies to Continue)

2024. 5. 12. 23:26·TIL

AWS 환경에서 Requests 활용하여 크롤링 수행

 

에러 

Enable Javascript and Cookies to Continue

 

해결 방안

헤더에 User_agent 설정해주기 

header = {"User-Agent": "MY User-Agent"} 
response = requests.get(url, headers=header)

https://www.whatismybrowser.com/detect/what-is-my-user-agent/

 

What is my user agent?

Every request your web browser makes includes your User Agent; find out what your browser is sending and what this identifies your system as.

www.whatismybrowser.com

위의 사이트에서 MY User-Agent 확인하여 붙여넣기 

저작자표시 비영리 변경금지 (새창열림)

'TIL' 카테고리의 다른 글

[MacOS] Shell 명령어 / Zsh 이해하기  (4) 2024.03.16
[MAC / Ubuntu] ssh 원격접속 오류 해결 방법 / MAC 터미널 / WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED!  (0) 2023.10.12
[Python]Python visualization tool (파이썬 시각화 툴 종류)  (0) 2023.05.23
anaconda 명령어 정리  (0) 2022.10.18
[Mac] 맥북에 주피터 랩 (Jupyter lab) 설치하기 / 실행 화면  (0) 2022.06.02
'TIL' 카테고리의 다른 글
  • [MacOS] Shell 명령어 / Zsh 이해하기
  • [MAC / Ubuntu] ssh 원격접속 오류 해결 방법 / MAC 터미널 / WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED!
  • [Python]Python visualization tool (파이썬 시각화 툴 종류)
  • anaconda 명령어 정리
재온
재온
  • 재온
    Carpe Diem
    재온
  • 전체
    오늘
    어제
    • 분류 전체보기 (75)
      • AI (18)
        • NLP (5)
        • Toxicity Prediction (6)
        • Paper review (5)
      • Statistics (5)
        • mathematical statistics (2)
        • Time Series (3)
      • Algorithm (16)
      • Deep Learning (1)
      • Machine Learning (3)
      • TIL (11)
      • 공모전 및 프로젝트 (2)
      • 회고록 (3)
      • IT News (2)
      • 취준일기 (7)
      • 기타 (2)
  • 블로그 메뉴

    • 링크

      • Github
    • 공지사항

    • 인기 글

    • 태그

      SMILES to vector
      AI 뉴스레터
      Graph AI
      Seqeunce to seqeunce
      SKT AI Fellowship 5기 후기
      Greedy 알고리즘
      파이썬
      time series
      맞춤법 교정 모델
      SKT AI Fellowship
      tokenization repair
      이것이코딩테스트다
      코딩테스트 개념
      ChatGPT
      코딩테스트
      NLP
      chatgpt api 발급받기
      알고리즘
      Prompt pattern
      코딩테스트 파이썬
      chatgpt api 실습
      시계열
      노래가사분석
      Transformer기초
      크롬드라이버크롤링
      NLP Paper
      음악가사분석
      Chatgpt api inference
      ssh 접속오류
      Prompting
    • 최근 댓글

    • 최근 글

    • hELLO· Designed By정상우.v4.10.4
    재온
    [TIL] 웹크롤링 에러 해결 (Enable Javascript and Cookies to Continue)
    상단으로

    티스토리툴바