여러 url을 연속적으로 실행

lib/is_html.py

@@ -0,0 +1,47 @@
+import requests
+
+def is_html_url(url: str, timeout: float = 10.0) -> bool:
+    """
+    주어진 URL에 HEAD 요청을 보내고, 응답 헤더의 Content-Type이 HTML인지 확인합니다.
+    - url: 검사할 URL 문자열
+    - timeout: 요청 타임아웃(초 단위)
+    
+    반환값:
+    - Content-Type이 'text/html' 로 시작하면 True, 그렇지 않으면 False
+    """
+
+    try:
+        # HEAD 요청으로 헤더만 가져와도 충분하지만, 일부 서버에서 HEAD를 허용하지 않을 수 있어
+        # GET 요청을 사용해도 무방합니다. 단, GET은 바디를 가져오기 때문에 HEAD보다 비용이 높을 수 있음.
+        response = requests.head(url, timeout=timeout, allow_redirects=True)
+
+        # 만약 HEAD 요청에 실패하거나 서버가 405(Method Not Allowed)를 반환하면, GET 요청으로 재시도
+        if response.status_code == 405:
+            response = requests.get(url, timeout=timeout, stream=True)
+
+        # 응답 코드가 200번대가 아니면 False로 간주
+        if not response.ok:
+            return False
+
+        content_type = response.headers.get('Content-Type', '')
+        # Content-Type에 'text/html'이 포함되어 있으면 HTML로 간주
+        return content_type.lower().startswith('text/html')
+
+    except requests.RequestException as e:
+        # 네트워크 오류, 타임아웃 등 예외 발생 시 False 반환
+        # 필요하다면 로그를 찍거나 예외를 다시 던질 수 있습니다.
+        print(f"Error fetching URL: {e}")
+        return False
+
+if __name__ == '__main__':
+    test_urls = [
+        'https://www.example.com',
+        'https://api.github.com',        # JSON API라서 HTML이 아닐 확률이 높음
+        'https://raw.githubusercontent.com'  # 텍스트 파일 등 다양한 타입
+    ]
+
+    for url in test_urls:
+        if is_html_url(url):
+            print(f"[HTML] {url}")
+        else:
+            print(f"[Not HTML] {url}")