helio.loureiro.eng.br
  • Home
  • Unix
  • Linux
  • Blog
  • Python
  • Programação
  • Tudo
  • Suécia
  1. You are here:  
  2. Home
  3. Python
  4. Criando um programa em python com debug

Os artigos mais lidos de 2025

  • Configurando traefik com ssh
  • Configurando o grafana alloy pra monitorar VMs
  • Acessos de robôs nos logs web
  • Configurando o teclado Keychron C3 no Linux
  • Parâmetros de compilação pra Go!

Revisitando o artigo de shell lento com python3.13

Details
Written by: Helio Loureiro
Category: Python
Published: May 12, 2025
Hits: 1110
  • python3.13
  • performance

Quando escrevi o artigo Shell é lento? python teve uma performance miserável. Pra não chamar de outra coisa.

Resolvi então dar uma revisitada no teste e rodando o python3.13. A cada versão de python dizem que a performance é melhorada. Nada melhor que tirar a prova. E além disso a versão 3.13 permite desabilitar o GIL, o Global Interpreter Locker. Não se se faz alguma diferença num teste desses, mas vamos tentar.

Eu mantive o mesmo programa que rodei da outra vez:

  
#! /usr/bin/env python3

for i in range(20000000):
    with open("arq-python3", "w") as fd:
        None   
  

E o resultado:

  
helio@goosfraba❯ time python3.13 20M-touch.py

________________________________________________________
Executed in  621.80 secs    fish           external
   usr time  384.60 secs  998.00 micros  384.60 secs
   sys time  229.78 secs    0.00 micros  229.78 secs
  

Demorou mais que o teste anterior. Se antes foi miserável, essa aqui... Mas antes de botar a culpa no Python, vamos rodar a versão em Go e olhar se os tempos mudaram. O código de Go também continua o mesmo:

  
package main

import (
        "log"
        "os"
)

func main() {
        for i := 0; i < 20000000; i++ {
                fd, err := os.Create("arq-go")
                fd.Close()
                if err != nil {
                        log.Fatal(err)
                }
        }
}
  

E depois daquela compilada básica:

  
helio@goosfraba❯ go build -o 20M-touch 20M-touch.go
helio@goosfraba❯ time ./20M-touch

________________________________________________________
Executed in  295.12 secs    fish           external
   usr time   88.50 secs    0.20 millis   88.50 secs
   sys time  199.48 secs    1.03 millis  199.47 secs
  

Realmente baixou o Exu-tranca-sistema no HDD. Da época em que fiz o primeiro teste pra cá a mudança foi a adição de um disco extra de 12 TB. E afetou bastante a performance. De 148s pra 295s com o binário em Go. Nesse caso é melhor rodar o este com cada linguagem pra ver as diferenças no sistema novo e ter um equilíbrio maior entre os resultados.

  
helio@goosfraba❯ time perl 20M-touch.pl

________________________________________________________
Executed in  260.95 secs    fish           external
   usr time   61.45 secs    1.31 millis   61.45 secs
   sys time  195.20 secs    0.04 millis  195.20 secs  

helio@goosfraba❯ time bash 20M-touch.sh 

________________________________________________________
Executed in  443.89 secs    fish           external
   usr time  213.20 secs    1.26 millis  213.20 secs
   sys time  227.43 secs    0.04 millis  227.43 secs
  

E pra melhorar o escope de testes, adicionei ainda a versão em C++:

  
#include <iostream>
#include <fstream>
using namespace std;

int main() {
  for (int i=0;i<20000000;i++) {
    ofstream MyFile("arq-cpp");
    MyFile.close();
  }
}    
  

O resultado:

  
helio@goosfraba❯ time ./20M-touch-cpp 

________________________________________________________
Executed in  205.39 secs    fish           external
   usr time   39.56 secs  359.00 micros   39.56 secs
   sys time  163.64 secs  911.00 micros  163.64 secs
  

O resultados foram então (do mais rápido pro mais lento):

  • c++: 205.39s
  • perl: 260.95s
  • go: 295.12s
  • bash: 443.89s
  • python: 621.80s
  • Enquanto C++ manteve a performance esperada, perl deu um show. Eu pessoalmente achei que Go! ficou devendo, ainda mais se comparado com C++. Mas python... python fracassou miseravelmente. E de novo.

    E fui tentar rodar com o GIL desabilitado e...

      
    helio@goosfraba❯ time env PYTHON_GIL=0 python3.13 20M-touch.py
    Fatal Python error: config_read_gil: Disabling the GIL is not supported by this build
    Python runtime state: preinitialized
    
    
    ________________________________________________________
    Executed in    4.91 millis    fish           external
       usr time    2.03 millis    1.09 millis    0.95 millis
       sys time    2.85 millis    0.02 millis    2.83 millis
      
    

    Vou precisar compilar um python3.13 com a configuração que permite desabilitar o GIL...

    Update: compilei um pacote do AUR.

      
    ==> Creating package "python313-freethreaded"...
      -> Generating .PKGINFO file...
      -> Generating .BUILDINFO file...
      -> Generating .MTREE file...
      -> Compressing package...
    ==> Leaving fakeroot environment.
    ==> Finished making: python313-freethreaded 3.13.3-1 (Mon 12 May 2025 06:04:15 PM CEST)
    ==> Cleaning up...
      
    

    E vamos aos resultados:

      
    helio@goosfraba❯ time env PYTHON_GIL=0 python3.13t 20M-touch.py
    
    ________________________________________________________
    Executed in   31.58 mins    fish           external
       usr time   14.01 mins    0.00 millis   14.01 mins
       sys time   17.25 mins    1.96 millis   17.25 mins
      
    

    Python continua parecendo que bateu uma feijuca antes de rodar os testes. Não que remover o GIL fosse mudar muita coisa uma vez que o teste é sequencial. Mas podia ter melhorado um pouco.

    Enquanto isso também descobri o porquê dos testes estarem mais lentos: tem algum treco do yay compilando. Sei lá eu o que é uma vez que estou conectado remotamente.

    Passando o limite de usuários no Mastodon.py

    Details
    Written by: Helio Loureiro
    Category: Python
    Published: July 19, 2024
    Hits: 2028
    • #TootThursday
    • #mastodon.py

    Pra quem me segue no Mastodon, sabe que (ou pelo menos vê) que envio um #TootThursday toda quinta-feira.   Primeiro o que é isso?  Nos tempos de Twitter surgiu o #FollowingFriday, ou #FF pros mais íntimos, que servia pra você indicar perfis interessantes pros outros seguirem.  Nessa mesma época eu implementei um script pra fazer isso por mim já que todos que sigo eu considero interessantes.

    Pra manter o mesmo espírito no Mastodon, passei a usar o #TootThursday.   Como o limite de caracteres é bem mais alto no Mastodon, não é preciso criar um #TT e é possível usar o nome inteiro.  E assim sigo postando toda quinta-feira.

    Eu andei reparando que meu envio de sugestões estava sempre em 4 ou 5 pessoas.  Sempre.  E meu programa pra fazer o envio usa 10% da lista de pessoas que sigo, algo que está em mais de 500 hoje em dia no perfil @helioloureiroBR.

    Olhei manualmente o uso de account_following( ) e eu estava recebendo somente 40 entradas, mesmo com limite em nulo.

    In [14]: u = tt.mastodon.account_following(id=tt.me.id, limit=None)
    
    In [15]: len(u)
    Out[15]: 40

    Abri um bug report no GitHub, mas lá mesmo vi a sugestão pra usar account_following( ) com fetch_remaining( ), o que testei aqui.

    In [16]: u = tt.mastodon.account_following(id=tt.me.id, limit=80)
    
    In [17]: len(u)
    Out[17]: 80
    
    In [18]: u = tt.mastodon.account_following(id=tt.me.id, limit=500)
    
    In [19]: len(u)
    Out[19]: 80
    
    In [20]: u2 = tt.mastodon.fetch_remaining(u)
    
    In [21]: len(u2)
    Out[21]: 525

    E realmente deu certo.

    Agora o script está corrigido pra pegar mais pessoas que sigo e selecionar os 10%.

    Se quiser olhar o bug report no GitHub, esse é o link: https://github.com/halcy/Mastodon.py/issues/376

    No Mastodon mesmo o Mauricio Castro (@This email address is being protected from spambots. You need JavaScript enabled to view it.) muito gentilmente avisou que isso é realmente limitação da API: https://docs.joinmastodon.org/methods/accounts/#following

    Mas vamos ver se o meu bug report ajuda a melhorar a documentação sobre isso.

    UPDATE: escrevi o artigo e esqueci de apontar pro script, caso alguém queira usar ou copiar alguma parte.  Ele está aqui: https://github.com/helioloureiro/homemadescripts/blob/master/mastodon-toot-thursday.py

    O desencurtador de links pra tor-browser no telefone

    Details
    Written by: Helio Loureiro
    Category: Python
    Published: April 16, 2023
    Hits: 2874

    Com a migração pra rede Mastodon, eu agora sigo alguns bots que postam notícias, como esse do UOL que postou uma notícia sobre tubarões.

    O problema é só com os links encurtados pelo t.co do Twitter.  Eles simplesmente não funcionam no tor-browser.  Simplesmente não consigo receber o destino desses links.

    A solução que encontrei foi criar um pequeno script em CGI usando python que recebe a URL, busca o link destino e redireciona o browser.

    O script é basicamente esse aqui:

    #! /usr/bin/python3
    
    import cgi
    import requests
    
    def renderPage():
        print("Content-type: text/html;utf-8\n")
        print("""    
    <label for="link">Enter the url: 
    <input id="link" name="link" type="text" />
     <input type="submit" value="submit" />
    """) 
    form = cgi.FieldStorage() 
    url = form.getvalue("link") 
    if url is None: 
        renderPage() 
    else: 
        req = requests.get(url) 
        print(f"Location: {req.url}\n\n")

    O pessoal de javascript deve morrer de desgosto de ver uma interface tão simplificada e que usa o servidor pra gerar a respostas.  Mas é o que sei fazer.  No fim eu simplesmente salvo o link no bookmarks e abro o mesmo cada vez que preciso usar.  Então é copiar o link da barra de url, abrir o bookmarks, clicar no link salvo do CGI, ir na caixa de diálogo, colar a url e pressionar o botão "submit".

     

    Daí é só colar o link e deixar a mágica acontecer.

      

    O link pra quem quiser usar o serviço é esse aqui:

    https://helio.loureiro.eng.br/cgi-bin/links.cgi

    Sistema de loteria em python com CSV do EventBrite

    Details
    Written by: Helio Loureiro
    Category: Python
    Published: October 31, 2022
    Hits: 2622

    Lottery presentation page.

    Acabei de lançar um sistema fácil pra fazer loteria de participantes na PyCon Suécia.

    Ia fazer web, mas depois mudei de idéia e passei pra console com dialog.

    ./simple-lottery-eventbrite.py --csvfile=/Users/ehellou/Downloads/PyconSweden2022-Attendee_Summary_Report_91481040875_20221027_1516.csv --dialog

    Ele abrirá e perguntará quantos rounds quer rodar (ou quantos vencedores ganharão).

    Em seguida ele permite confirmar o ganhador o cancelar, no caso da pessoa não estar na sala.

    Tela mostrando possível ganhador, e as opções de confirmar ou tentar outra pessoa.

    E por fim salva um log dos ganhadores, com o email correto.

    Tela mostrando que o resultado foi salvo num arquivo de log. 

    O repositório está no github.

    https://github.com/helioloureiro/simple-lottery-eventbrite

    Qual é o seu IP?

    Details
    Written by: Helio Loureiro
    Category: Python
    Published: September 25, 2022
    Hits: 2443

    Existem vários sites na Internet que fornecem a informação de qual IP você está usando.  Eu uso bastante pra verificar se minha conexão via TOR está funcionando corretamente.

    Infelizmente os sites que fornecem essa informação passaram a pedir alguma forma de autenticação ou aprovação de cookies, o que é muito chato uma vez que só quero a informação do IP.

    Então pra resolver o problema eu fiz eu mesmo um CGI pra dizer qual IP acessou o site.  É simples, mas funcional.  Divirtam-se!

    http://helio.loureiro.eng.br/cgi-bin/whatismyip.py

    1. O fim do picamera no raspberrypi
    2. O status code 103 de webservers
    3. Obama está observando você
    4. Rápida introdução ao Python na BSD Day 2021

    Page 2 of 9

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9

    Estatísticas

    • Users 2
    • Articles 502
    • Articles View Hits 3637054

    Imagem aleatória